728x90 SMALL Come on IT/참고용18 OpenAI Web Search API 소개 1. 글을 작성하게 된 계기최근 4일 전 OpenAI에서 BUILT-IN TOOLS라는 새로운 기능을 소개했었다.나는 그중에서도 Web search 기능을 좀 더 자세하게 알아보고기존의 gpt-4o 나 gpt-4o-mini 모델과의 가격을 비교해보려고 한다. 그리고 Responses라는 개념이 나오게 되었는데 Chat Completions와 어떻게 다른지 살펴보자.2. OpenAI Web Search API 소개Web Search API를 제공하는 모델은 2가지이다.- gpt-4o-search-preview- gpt-4o-mini-search-preview사용방법은 아래와 같다.from openai import OpenAIclient = OpenAI()completion = client.chat.comp.. 2025. 3. 18. docker 불필요 캐시 삭제 명령어 1. 글을 작성하게 된 계기 docker를 사용하다보면 불필요하게 지금은 사용하지 않지만이전에 만들었다가 남았던 캐시들을 삭제해야하는 경우가 있어서 만들었다. 참고로 나는 200GB를 넘게 확보한 경우도 있다...2. 명령어 정리 사용되지 않는 데이터 삭제docker system prune 추가적인 옵션 -a 옵션을 사용하면 모든 사용되지 않는 이미지도 삭제합니다.--volumes 옵션을 사용하면 사용되지 않는 볼륨도 삭제합니다. docker system prune -a --volumes 중지된 컨테이너 삭제docker container prune 사용되지 않는 네트워크 삭제docker network prune 사용되지 않는 볼륨 삭제docker volume prune dangling 이미지 삭제.. 2024. 7. 2. GPU 메모리 초기화 방법 (feat. ubuntu) 1. 글을 쓰게 된 계기 모델을 학습시키다가 중지시키게 되면GPU에 남은 메모리를 정리해야하는 경우가 생기게 된다. 2. GPU 메모리 초기화 방법 특정 프로세스 종료sudo kill -9 # sudo kill -9 1234 특정 GPU 메모리 전체 초기화# 0번 GPU의 모든 프로세스를 종료합니다.sudo fuser -v /dev/nvidia0sudo fuser -v /dev/nvidia0 -k 2024. 6. 17. Ubuntu 버전 확인 명령어 1. 글을 작성하게 된 계기 우분투(Ubuntu)의 버전을 확인하는 경우가 종종 있어서 해당 명령어를 정리하고자 한다. 2. 우분투 버전 확인 명령어 lsb_release -a lsb_release -d cat /etc/issuecat /etc/os-releasehostnamectl 2024. 6. 16. GPU 사용량 체크하는 방법 (feat. ubuntu) 1. 작성하게 된 계기 GPU를 사용할 때 사용량을 확인하곤 하는데 해당 내용을 정리하고자 한다. 2. NVIDIA GPU 사용 시 - 기본 체크 방법nvidia-smi - 주기적인 업데이트 체크 방법 (2초 주기)watch -n 2 nvidia-smi 3. AMD GPU 사용 시 - 기본 체크 방법rocm-smi - 주기적인 업데이트 체크 방법 (2초 주기) watch -n 2 nvidia-smi 2024. 6. 15. use_seedable_sampler TypeError 해결방법 1. 글을 작성하게 된 계기 LLM을 학습하는 과정에서 위와 같은 에러를 만나게 되어서 글을 작성하게 되었다. 2. 해결방법 아래와 같이 accelerate 버전을 변경해서 설치해주고 다시 재시작해서 코드를 실행시키면 정상적으로 작동된다.pip install accelerate==0.27.2 2024. 5. 6. 이전 1 2 3 다음 728x90 LIST
