반응형
EvalPlus LeaderboardEvalPlus는 AI 코더를 평가하는 엄격한 테스트를 통해 벤치마크를 제공합니다. 순위표를 살펴보면 GPT-4 다음으로 CodeQwen1.5-7B-Chat 모델의 점수가 가장 높습니다. 그리고 CodeQwen1.5-7B-Chat은 오픈소스 모델입니다. LM Studio (Local LLM)LM Studio 프로그램을 사용하여 모델을 검색하고 다운로드합니다. 제 맥북에서는 codeqwen-1_5-7b-chat-q8_0.gguf 모델까지 사용할 수 있습니다. Ollama (Local LLM)Ollama 프로그램도 사용할 수 있습니다. Ollama에서는 아래 명령어로 모델을 다운로드합니다.ollama pull codeqwen:latest# 또는, q8 모델을 사용하고 싶다..
간단한 프로그램은 AI가 금방 만들어줍니다.Google Gemini 1.5 Flash와 OpenAI의 GPT-4o를 활용하여 "유튜브 URL 영상 다운로드" 프로그램을 만들어보았습니다. 이 프로그램은 단순해서 초기에는 Gemini 1.5 Flash와 GPT-4o의 결과물이 비슷했습니다.이후 각 AI에게 필요한 기능을 하나씩 추가 요청하여 프로그램을 업그레이드해보았습니다.특히, Gemini 1.5 Flash는 입력 토큰이 커서 프로그램 개발에 더 유용했습니다. 첫 번째 앱은 Google Gemini 1.5 Flash가 만들어준 것입니다. 두 번째는 OpenAI GPT-4o가 만들어낸 앱입니다. 필요한 기능을 추가 요청할 때마다 프로그램이 점점 더 업그레이드되었습니다.Gemini 1.5 Flash는 큰 입력..
테스트 임베딩 모델아래 임베딩 모델을 테스트했습니다. 상위 3개 모델은 ollama에서 가장 인기 있는 임베딩 모델입니다.nomic-embed-textmxbai-embed-largesnowflake-arctic-embedBAAI/bge-m3테스트 문서아래는 테스트에 사용한 텍스트입니다.texts = [ "오늘은 날씨가 참 좋아서 외출하기에 아주 좋은 날이에요.", "책을 읽는 것은 마음을 편안하게 해주고 지식을 넓혀줍니다.", "나는 미래에 대한 두려움을 가지지 않고 미래를 기대하며 살고 있습니다.", "나는 어제보다 오늘 더 나은 내일을 만들기 위해 노력하고 있습니다.", "음악을 들으며 산책하는 것은 스트레스를 해소하는 데에 효과적입니다.", "요리를 하며 시간을 보내는 것은 나에게 큰 즐..
옵시디언에서 GroqCloud 서비스를 통해 Llama3-70b 모델을 설정하고 사용하는 방법을 소개해 드리겠습니다.이 과정은 BMO 플러그인과 Copilot 플러그인 두 가지 방법으로 진행할 수 있으며, 사용자의 선호에 따라 필요한 옵시디언 플러그인을 선택하시면 됩니다. GroqCloud 가입하기GroqCloud는 다양한 AI 모델을 클라우드에서 손쉽게 사용할 수 있게 해주는 서비스입니다.GroqCloud에서는 다음과 같은 AI 모델을 제공하며, 무료 사용량도 제공됩니다. GroqCloud 서비스에 가입하고 API Key를 발급받습니다. [API Key 발급 받으러 가기] BMO 플러그인 사용하기옵시디언 BMO 플러그인은 옵시디언 내에서 AI챗봇과의 상호작용을 가능하게 하는 플러그인입니다.BMO 플러그..
이 영상에서는 'LangChain’을 활용해 자신의 노트에 질문하는 방법을 소개합니다. Obsidian 메모 앱에서 노트를 로드하고 인덱스를 생성하여 자연어로 질문함으로써 원하는 정보를 쉽게 얻을 수 있습니다. 이 접근법은 메모의 복잡한 내용을 쉽게 탐색하고, 생각을 더 깊게 이해하는 데 도움을 줍니다. 메모 작성, 생각 정리, 그리고 생산성 향상에 있어 매우 효과적인 도구가 될 것입니다. 옵시디언 노트 가져오기 우선, Obsidian 앱에서 노트를 가져오는 방법부터 시작해 보겠습니다. LangChain에서는 langchain_community.document_loaders 모듈의 ObsidianLoader 클래스를 사용하여 이를 수행할 수 있습니다. 아래의 코드는 사용자의 시스템에 저장된 옵시디언 노트..
이 글에서는 랭체인(LangChain)의 RAG 문서를 참고하여 RAG 시스템을 구현하는 방법을 소개합니다. 필요한 패키지 설치하기 아래의 명령어를 사용하여 필요한 패키지를 설치합니다. 이러한 패키지들은 검색-증강 생성 과정을 구현하는 데 필요한 도구와 라이브러리를 제공합니다. pip install --upgrade --quiet langchain faiss-cpu tiktoken langchain-google-genai 패키지 가져오기 다음으로, 구현에 필요한 패키지들을 Python 코드 내로 가져옵니다. 이 과정에서 각각의 모듈에서 필요한 클래스와 함수를 임포트합니다. from langchain_community.vectorstores import FAISS from langchain_core.out..