머신러닝 딥러닝 개발

제공해주신 두 영상의 내용을 바탕으로 LLMFit과 whichllm의 구체적인 사용법과 핵심 명령어(플래그)를 정리해 드립니다.두 도구 모두 설치 및 구동을 위해서는 각 GitHub 저장소(AlexsJones/llmfit, Andyyyy64/whichllm)의 가이드를 참고하여 CLI 환경에서 먼저 설치 명령어를 실행해야 합니다.※ 현재 내 터미널 환경(OS, 패키지 매니저 등)에 따라 구체적인 설치 명령어나 실행 방법이 달라질 수 있으니 참고 바랍니다. 1. LLMFit 사용법 🛠️더보기LLMFit은 화면에 텍스트로 메뉴가 나타나는 TUI 방식으로, 실행 후 단축키를 눌러 직관적으로 조작합니다 (0:55).컨텍스트 크기 설정 (2:50): 대문자 A를 누른 뒤 Context Cap 메뉴에 원하는 컨텍..

간단하게 모델 추론을 서빙하는 서버를 만들었는데,대화기록을 기억하지 못하고 일회성 대화만 진행되는 현상이 나타났습니다. 그래서 좀더 공부해보니,session_id를 활용해서 각 session_id에 body 값을 지정해서 이전 대화를 기억하는 방법을 알게되어 적용하게 되었습니다. [GitHub]https://github.com/Kim-MyeongOk/ollama/pull/4 [결과]

이번에 swagger 파일을 만드는 작업은 FastAPI 에서 http://localhost:8000/openapi.json url 을 통해 얻을 수 있는swagger 파일은 3.1.0 인데, 3.0.0 버전의 파일이 필요해서 진행하게 되었습니다.더보기더보기{ "openapi": "3.1.0", "info": { "title": "FastAPI", "version": "0.1.0" }, "paths": { "/v1/chat/completions": { "post": { "summary": "Chat Completions", "operationId": "chat_completions_v1_chat_completions_post", "re..

이번에는 ollama qwen3-vl:4b 모델로 간단한 서빙을 지원하는 서버 구현을 진행했습니다.[GitHub]https://github.com/Kim-MyeongOk/ollama [README]더보기[실행방법]conda 가상환경 만들어서 진행했으며, 실행방법은 2가지 방법이 있습니다.1. [ *.py 파일 ] vscode나 pycharm에서 src폴더에 있는 server.py, client.py 각각 실행하면 동작합니다2. [ *.bat 파일 ] src 상위 폴더에 있는 *.bat 파일에는 해당 가상환경의 경로를 지정해야 사용 가능합니다 [가상환경에 대한 pip 설치]필요한 라이브러리는 requirments.txt 파일로 repo에 있으니 "pip install -r requirments.tx..