본문 바로가기
728x90
반응형
SMALL

전체 글119

Celery 란 무엇인가? 1. 글을 작성하게 된 계기 기존에 운영하던 환경이 fastapi-redis-celery 형태였으며 django에서도 동일하게 celery를 활용해서 배포하고 있다. 이번 기회에 이론적인 내용에 대해서 정리하고 한다. 2. Celery는 무엇인가? Celery는 Python으로 작성된 분산 작업 대기열 시스템이다. 대규모 시스템에서 비동기 작업 실행과 작업 스케줄링을 용이하게 위해 설계되었다. 예를 들자면, 웹 서비스에서 응답시간은 생명과 같다. 빨리 응답해야 하는 웹 서비스에서 3초 이상 아니 1초 이상의 딜레이는 유저에게는 오류와 같으며 렉이라고 인지하게 된다. 그래서 이를 위해 비동기 작업을 처리할 수 있도록 넘기고 뒤에서 작동은 되게 하고 유저에게는 바로 응답하기 위해 사용된다. 즉, 백그라운드에.. 2024. 4. 4.
uvicorn 이란 무엇인가? (feat. ASGI) 1. 글을 쓰게 된 계기 이전에 말했던 것처럼 gunicorn과 Uvicorn은 약속처럼 늘 같이 사용하고 있다. 그래서 이론적으로 다시 한번 정리하고자 글을 쓰게 되었다. 혹시 gunicorn에 대해서 궁금하신 분은 아래 링크를 참고하면 좋을 것 같다. gunicorn은 무엇인가? (feat. WSGI) 1. 글을 쓰게 된 계기 이전에 작고 큰 API들을 많이 개발했었다. 이전에는 flask나 django를 많이 사용했다면 최근에는 오히려 더 빠르게 개발할 수 있는 fastapi를 자주 사용하곤 한다. 그럴 때마다 guni jongsky.tistory.com 2. ASGI란 무엇인가? ASGI(Asynchronous Server Gateway Interface)는 WSGI의 비동기 버전이라고 생각할 .. 2024. 4. 3.
gunicorn은 무엇인가? (feat. WSGI) 1. 글을 쓰게 된 계기 이전에 작고 큰 API들을 많이 개발했었다. 이전에는 flask나 django를 많이 사용했다면 최근에는 오히려 더 빠르게 개발할 수 있는 fastapi를 자주 사용하곤 한다. 그럴 때마다 gunicorn과 uvicorn을 이용해서 배포를 하곤하는데 이를 이론적으로 정리하고자 해서 글을 작성하게 되었다. 2. WSGI란 무엇인가? gunicorn을 알기 전 WSGI에 대해서 먼저 알아보도록 하자. WSGI, 즉 Web server Gateway Interface는 파이썬 웹 애플리케이션과 웹 서버 사이의 표준 인터페이스로 웹 애플리케이션 개발과 배포를 단순화하는데 중요한 역할을 한다. WSGI는 파이썬 웹 개발의 핵심 구성 요소이며, 다양한 웹 서버와 애플리케이션 간의 통합을 .. 2024. 4. 3.
Kafka 설치하는 방법 (feat. ubuntu) 1. 글을 작성하게 된 계기 기존에 회사에서 Redis를 이용해서 fastapi - redis - celery 구조로 서빙을 구축했었다. 그러나 앞으로는 kafka를 사용하기 위해서 ubuntu 서버에 kafka를 설치하는 방법에 대해서 정리하고자 한다. 2. Apache Kafka 설치 방법 1. 다운로드를 위해 kafka 사이트 접속 - 링크 2. 우클릭 후 링크 주소 복사 클릭 3. 링크를 활용해 필요파일 설치 wget -d https://downloads.apache.org/kafka/3.7.0/kafka_2.13-3.7.0.tgz 4. 다운로드한 파일 압축 풀기 tar -xzf kafka_2.13-3.7.0.tgz 5. 잘 설치되었는지 확인을 위한 zookeeper 실행 설치된 폴더로 이동 cd.. 2024. 4. 3.
git flow 사용법 정리 (feat. ubuntu) 1. 글을 사용하게 된 계기 github는 개발을 하다보면 정말 많이 사용하고 협업을 하는 과정에서도 많이 사용하곤 한다. 그래서 git flow를 사용하는 경우도 많은데 간략하게 자주 사용하는 코드를 정리해보고자 한다. 2. git flow 사용법 - git flow 설치 sudo apt-get install git-flow 2-1. git flow 사용법 - Feature 브랜치 - git flow 초기화 git flow init - 시작해야할 feature start git flow feature start - 개발 작업이 끝난 경우 feature 브랜치를 마무리할 때는 feature finsish git flow feature finish - github에 PR을 하기 위해 publish 명령으로.. 2024. 3. 20.
[논문 리뷰] Principled Instructions Are All You Need forQuestioning LLaMA-1/2, GPT-3.5/4 (24.01) 논문은 LLM(대규모 언어 모델) prompting과 querying의 과정을 간소화하기 위해 26가지 가이드 지침을 소개합니다. 우리의 목표는 다양한 규모의 LLM에 대한 질문을 구성하는 기본 개념을 단순화하고, 그 성능을 테스트하고, 다양한 프롬프트를 입력할 때 다양한 규모의 LLM의 동작에 대해 사용자의 이해도를 높이는 것입니다. 명령어와 프롬프트 설계에 제안된 원칙이 효과가 있는 것을 증명하기 위해 LLaMA-1/2(7B, 13B, 70B), GPT-3.5/4에서 광범위한 실험을 수행했습니다. 우리는 이 작업이 LLM의 프롬프트를 연구하는 연구자들에게 더 나은 가이드를 제공하기를 바랍니다. 프로젝트 페이지는 다음 링크(https://github.com/VILA-Lab/ATLAS)에서 확인할 수 있.. 2024. 3. 3.
728x90
반응형
LIST

티스토리툴바