분류 전체보기 53

내 PC 사양에 맞는 vLLM 모델은?

제공해주신 두 영상의 내용을 바탕으로 LLMFit과 whichllm의 구체적인 사용법과 핵심 명령어(플래그)를 정리해 드립니다.두 도구 모두 설치 및 구동을 위해서는 각 GitHub 저장소(AlexsJones/llmfit, Andyyyy64/whichllm)의 가이드를 참고하여 CLI 환경에서 먼저 설치 명령어를 실행해야 합니다.※ 현재 내 터미널 환경(OS, 패키지 매니저 등)에 따라 구체적인 설치 명령어나 실행 방법이 달라질 수 있으니 참고 바랍니다. 1. LLMFit 사용법 🛠️더보기LLMFit은 화면에 텍스트로 메뉴가 나타나는 TUI 방식으로, 실행 후 단축키를 눌러 직관적으로 조작합니다 (0:55).컨텍스트 크기 설정 (2:50): 대문자 A를 누른 뒤 Context Cap 메뉴에 원하는 컨텍..

LLM/vLLM 2026.07.12

모델 서빙 초기

이번에는 ollama qwen3-vl:4b 모델로 간단한 서빙을 지원하는 서버 구현을 진행했습니다.[GitHub]https://github.com/Kim-MyeongOk/ollama [README]더보기[실행방법]conda 가상환경 만들어서 진행했으며, 실행방법은 2가지 방법이 있습니다.1. [ *.py 파일 ] vscode나 pycharm에서 src폴더에 있는 server.py, client.py 각각 실행하면 동작합니다2. [ *.bat 파일 ] src 상위 폴더에 있는 *.bat 파일에는 해당 가상환경의 경로를 지정해야 사용 가능합니다 [가상환경에 대한 pip 설치]필요한 라이브러리는 requirments.txt 파일로 repo에 있으니 "pip install -r requirments.tx..

LLM 2026.06.23

Annotaion

PEP8은 파이썬 코드 스타일 가이드라인으로, 코드의 가독성과 일관성을 높이는 데 중점을 둡니다. 함수 어노테이션 사용은 PEP484에 명시된 스타일 가이드라인을 따르는 것이 좋습니다. PEP8 에서의 Annotaion 사용법PEP8에서는 함수 어노테이션 사용 시 다음과 같은 스타일을 권장합니다:콜론(:) 앞에는 공백을 두지 않고, 뒤에는 공백을 하나 둡니다.-> 기호 앞뒤에는 공백을 하나씩 둡니다.기본 인자 값과 어노테이션을 함께 사용하는 경우, = 기호 양쪽에 공백을 둡니다.def munge(input: AnyStr = None): ...def munge(input: AnyStr, sep: AnyStr = None, limit=1000): ... 구글 스타일 가이드구글은 파이썬 코드 스타일 가이드에..

카테고리 없음 2025.07.14

문서화 중요성

필자도 개발을 진행하면서"내가 개발자인데 문서화에 많은 투자를 해야하나?"와 같은 생각을 정말 많이 했다..주변에서 문서화 해놓은거 있냐고 요청하면 정리해서 전달하는 정도 였는데,개발하는 프로젝트가 늘어나고 개발하는 코드의 양과 분야가 많아지고 넓어지니, 나중에 왜 이런 로직이 나온거지?와 같이 의문을 가지는 일이 생겼고, 문서화가 중요하다는 것을 알게되었음.1. 코드 재사용성: 다시 사용할 때 빠르게 이해하고 사용하기 위함2. 빠른 인수인계 가능참고 링크1. https://clickup.com/ko/blog/110939/software-documentation-tools

기타 (Other) 2025.03.07

파이썬으로 개발할 수 있는 분야 별 라이브러리 모음

개요자주 사용하는 파이썬 라이브러리의 문법을 간략하게 정리하면서 공부하고자 함. 분야 별 라이브러리■  데이터 분석더보기주요 기능: 데이터 처리, 시각화, 통계 분석, 기계 학습 등라이브러리설명Pandas데이터 조작 및 분석NumPy수치 연산 및 다차원 배열 처리Matplotlib기본적인 데이터 시각화Seaborn통계 데이터 시각화Scikit-learn기계 학습 및 데이터 마이닝SciPy과학 및 기술 계산Statsmodels통계 모델링 및 계량경제학Plotly대화형 데이터 시각화Bokeh대화형 웹 기반 시각화NLTK자연어 처리Gensim토픽 모델링 및 문서 유사도XGBoost그래디언트 부스팅LightGBM그래디언트 부스팅 프레임워크TensorFlow딥러닝 및 기계 학습PyTorch딥러닝 및 인공 신경망K..

기타 (Other) 2025.02.19