최근 Grok AI를 사용해보니 Gemini보다 더 만족스러웠습니다

최근 X에서 공개한 Grok AI를 코딩 작업에 활용해보고 있습니다. xAI에서는 매달 $25의 무료 크레딧을 제공하니 부담없이 사용할 수 있습니다. 개인적으로는 Google Gemini보다 코딩 성능이 뛰어나 보이며, 글쓰기와 같은 다른 작업에서도 유용할 것이라 기대하고 있습니다. 이런 기대감을 바탕으로, 제가 직접 개발하여 사용 중인 Obsidian Chatbot Plugin에 Grok AI 모델을 추가해 글쓰기 지원 기능을 시험해봤습니다. 사용해본 결과, Google Gemini보다 의도를 잘 파악하는 점이 인상적이었습니다. 다만, 가끔 영어로 대답하는 점은 약간의 불편함으로 느껴졌습니다. 그럼에도 불구하고, 전반적인 만족도가 높아 당분간은 Grok을 주로 사용할 계획입니다.

• format_list_bulleted 개발/개발 로그
• · 2024. 11. 15.
• textsms

파인콘(Pinecone) 벡터 DB의 무료 플랜 알아보기

옵시디언 RAG 플러그인 분석을 통해 검색 관련 지식 쌓기옵시디언에 작성한 노트와 스크랩한 글들이 쌓이다 보니, 필요한 정보를 찾는 것이 점점 힘들어지고 있습니다. 이러한 문제를 해결하기 위해 RAG 기술을 활용한 노트 검색 기능에 집중하여 옵시anpigon.tistory.com 지난번에 RAG 기술을 활용해 Obsidian 노트를 검색하는 플러그인을 개발하기 위해 기존의 RAG 기반 Obsidian 플러그인들의 코드와 기능을 살펴봤습니다. 대부분의 플러그인들이 로컬 벡터 데이터베이스를 사용하고 있었습니다. 로컬 데이터베이스는 비용과 속도 면에서 효율적이지만, 제 경우 디바이스 간 동기화 문제로 불편함을 겪고 있습니다. 특히, 로컬 데이터베이스 크기가 커질수록 동기화 문제가 계속해서 발생하고 있습니다. ..

• format_list_bulleted 개발/개발 로그
• · 2024. 11. 12.
• textsms

옵시디언 RAG 플러그인 분석을 통해 검색 관련 지식 쌓기

옵시디언에 작성한 노트와 스크랩한 글들이 쌓이다 보니, 필요한 정보를 찾는 것이 점점 힘들어지고 있습니다. 이러한 문제를 해결하기 위해 RAG 기술을 활용한 노트 검색 기능에 집중하여 옵시디언 플러그인을 개발하려고 합니다. 관련 지식을 쌓기 위해 기존의 RAG 기반 옵시디언 플러그인들을 분석해보았습니다. 분석 과정에서는 Grok API(무료)를, 자료 조사에는 Perplexity(유료)를 활용했습니다. Copilothttps://github.com/logancyang/obsidian-copilot 이 프로젝트는 Orama를 벡터 데이터베이스로 사용하고 있습니다.기본 개요Orama는 TypeScript로 작성된 오픈소스 검색 엔진으로, 전체 텍스트 검색과 벡터 검색 기능을 제공하는 하이브리드 데이터베이스입..

• format_list_bulleted 개발/개발 로그
• · 2024. 11. 10.
• textsms

AI 임베딩 모델 한국어 성능 비교

테스트 임베딩 모델아래 임베딩 모델을 테스트했습니다. 상위 3개 모델은 ollama에서 가장 인기 있는 임베딩 모델입니다.nomic-embed-textmxbai-embed-largesnowflake-arctic-embedBAAI/bge-m3테스트 문서아래는 테스트에 사용한 텍스트입니다.texts = [ "오늘은 날씨가 참 좋아서 외출하기에 아주 좋은 날이에요.", "책을 읽는 것은 마음을 편안하게 해주고 지식을 넓혀줍니다.", "나는 미래에 대한 두려움을 가지지 않고 미래를 기대하며 살고 있습니다.", "나는 어제보다 오늘 더 나은 내일을 만들기 위해 노력하고 있습니다.", "음악을 들으며 산책하는 것은 스트레스를 해소하는 데에 효과적입니다.", "요리를 하며 시간을 보내는 것은 나에게 큰 즐..

• format_list_bulleted 개발/AI 개발
• · 2024. 5. 5.
• textsms

옵시디언 노트와 랭체인을 이용한 RAG 시스템 만들기

이 영상에서는 'LangChain’을 활용해 자신의 노트에 질문하는 방법을 소개합니다. Obsidian 메모 앱에서 노트를 로드하고 인덱스를 생성하여 자연어로 질문함으로써 원하는 정보를 쉽게 얻을 수 있습니다. 이 접근법은 메모의 복잡한 내용을 쉽게 탐색하고, 생각을 더 깊게 이해하는 데 도움을 줍니다. 메모 작성, 생각 정리, 그리고 생산성 향상에 있어 매우 효과적인 도구가 될 것입니다. 옵시디언 노트 가져오기 우선, Obsidian 앱에서 노트를 가져오는 방법부터 시작해 보겠습니다. LangChain에서는 langchain_community.document_loaders 모듈의 ObsidianLoader 클래스를 사용하여 이를 수행할 수 있습니다. 아래의 코드는 사용자의 시스템에 저장된 옵시디언 노트..

• format_list_bulleted 개발/AI 개발
• · 2024. 2. 21.
• textsms

한국어 임베딩과 제미니AI를 이용한 무료 RAG 시스템 구축하기

이 글에서는 랭체인(LangChain)의 RAG 문서를 참고하여 RAG 시스템을 구현하는 방법을 소개합니다. 필요한 패키지 설치하기 아래의 명령어를 사용하여 필요한 패키지를 설치합니다. 이러한 패키지들은 검색-증강 생성 과정을 구현하는 데 필요한 도구와 라이브러리를 제공합니다. pip install --upgrade --quiet langchain faiss-cpu tiktoken langchain-google-genai 패키지 가져오기 다음으로, 구현에 필요한 패키지들을 Python 코드 내로 가져옵니다. 이 과정에서 각각의 모듈에서 필요한 클래스와 함수를 임포트합니다. from langchain_community.vectorstores import FAISS from langchain_core.out..

• format_list_bulleted 개발/AI 개발
• · 2024. 2. 20.
• textsms