안녕하세요. 디지코입니다. 오늘은 옵시디언 노트 앱에 인공지능 기능을 더해주는 코파일럿 포 옵시디언이 플러그인에 대해서 알아보겠습니다.

이 코파일럿 플러그인을 사용하면 제 화면에 보시는 것처럼 옵시디언 앱 인터페이스에서 ChatGPT 대화하듯이 인공지능과 대화를 나눌 수 있는데요.

여기에서 우리의 노트를 보여주고 그 내용에 대해서 질문해 볼 수도 있고, 노트 내용을 정리해 줄 수도 있고 제가 며칠 사용해 보니까 굉장히 편리한 기능들이 많이 있더라고요.

그래서 설치 방법과 사용법을 간단하게 알아보겠습니다.

설치를 위해서는 옵시디언 앱에 세팅 창을 열어 주시고요.

여러 가지 세팅 중에서 커뮤니티 플러그인, 아직 커뮤니티 플러그인을 한 번도 깔지 않으셨다면 여기 안내 문구를 읽고 활성화를 시켜 줘야 됩니다.

아무래도 커뮤니티 플러그인은 옵시디언의 공식 개발자가 아닌 다른 여러 개발자들이 이제 만들어서 오픈 소스를 올리는 경우가 많기 때문에 만약 플러그인에 버그가 있거나 할 경우에는 이 노트북이 망가질 수도 있다, 좀 이런 경고문이 들어 있거든요.

그래서 언제든지 이렇게 서드파티 플러그인 사용하실 때에는 좀 더 조심을 해 주셔야 될 것 같습니다.

제가 사용하는 코파일럿은 검색을 해 보니까 굉장히 많은 사람들이 다운로드 받고 잘 사용하고 있는 거 같아서 저는 깔기로 그렇게 결정을 했습니다.

커뮤니티 플러그인에 브라우저를 열어 주시면 여기서 검색을 해서 설치해 줄 수 있습니다.

코파일럿이라고 한번 검색을 해 보겠습니다.

그러면 제가 설치한 로건 양이라는 분이 만드신 코파일럿 플러그인도 보이고 또 코파일럿이라는 단어가 요즘 좀 많이 쓰는 단어이다 보니까 비슷비슷한 그런 플러그인도 많이 있는데요.

보시면 다운로드 횟수에서 로건 양이란 분이 만든 이 코파일럿이 14만 8천 다운로드 수로 가장 인기가 있는 것을 볼 수 있습니다.

코파일럿 플러그인을 눌러 주도록 하고요.

저는 이미 설치가 되었는데 아마 여러분에게는 여기 인스톨 버튼이 하나 보일 거예요.

이걸 눌러주면 설치를 할 수 있습니다. 또 허브 리포지토리에 있으니까 참고하시면 좋겠습니다.

코파일럿은 무료이고 오픈 소스인 챗 GPT 인터페이스를 제공한다.

사용하기 편리하게 돼 있다고 말하고 있고 특히나 도움이 되는 부분은 내가 이전에 작성한 노트에 대해서 대화를 나눌 수 있다는 것입니다.

로컬 퍼스트, 로컬을 우선시하고 또 프라이버시를 중요시 한다고 그렇게 얘기를 하고 있어요.

로컬 모델을 사용했을 때에는 채팅이나 뭐 질문하는 것들을 전부 다 오프라인으로 할 수 있어서 인터넷이 없어도 사용이 가능합니다.

설치를 마치고 나서는 옵시디언 인터페이스에서 코파일럿 버튼이 여기 위에 뜨게 됩니다.

그리고 간단한 챗 GPT 같은 인터페이스를 통해서 대화를 나눌 수 있습니다.

오픈 AI GPT 모델, 챗 GPT 모델을 사용하고 싶으신 분들은 API 키를 연결해 줘야 되고요.

마찬가지로 어, 스워크 제미나이 등등 API 키를 연결해 줘야 되는데 저 같은 경우는 로컬에서 돌아가는 Ollama를 기반으로 하는 로컬 모델을 사용하고 있습니다.

아무래도 Obsidian을 기장이라는 좀 개인적인 노트 용으로 사용하시는 분들도 많을 거라고 생각을 해요.

그럴 경우에 이렇게 OpenAI의 챗 GPT든지 다른 기업들의 모델을 사용하게 되면 우리의 정보를 일단 클라우드로 모두 올려야만 인공지능과 대화를 할 수가 있게 되죠.

그럼 개인 정보가 전부 다 넘어간다는 점이 저는 좀 찝찝해서 특히나 Obsidian의 경우에는 로컬 모델과 사용하기로 그렇게 결정을 했습니다.

물론 챗 GPT 같은 모델을 사용하면 좋은 성능을 기대할 수는 있겠습니다.

그리고 또 Ollama와 같은 로컬 모델 설정하는 부분이 조금 귀찮고 까다롭기 때문에 그런 단점도 있다는 것은 감안을 해야겠습니다.

그러면 Obsidian Copilot 플러그인의 로컬 셋업을 한번 알아보겠습니다.

옵시디언 코파일럿 공식 깃 리포에 오시면 로컬 코파일럿이라고 이제 마크다운 파일로 정리를 해 놨는데요.

저는 LM 스튜디오를 사용하진 않으니까 일단 스크롤 다운을 해 주고요.

조금 내려가면 Ollama에 대한 내용이 나오고 있습니다. 제일 먼저는 Ollama가 컴퓨터에 설치가 되어 있어야겠죠.

Ollama 설치와 사용 방법에 대해서는 제 채널에 올려놓은 다른 영상이 있으니 그 부분 참고하시면 좋겠습니다.

만약에 길이가 긴 노트를 많이 가지고 계신 분들이라면 Ollama에서 사용할 모델을 고를 때 컨텍스트의 사이즈가 큰 걸로 고르는 것이 좀 더 유리할 수 있겠습니다.

예를 들면 미스트랄 인스트럭 아든 파이 3 모델 같은 경우는 컨텍스트 윈도우가 꽤 많이 크더라고요.

이 부분은 일단은 넘어가도록 하고요.

Ollama 서버를 이제 시작할 때 Ollama 오리진이 변수를 설정해 주고 시작하라고 얘기하고 있습니다.

제가 사용하는 맥을 기준으로 했을 때 Ollama를 실행하면 위쪽 메뉴바에 아이콘이 뜨는데요.

그 아이콘을 눌러서 일단은 종료를 해 주시고 터미널에서 실행을 해 줘야겠습니다.

여기서 다시 한번 강조를 하고 있어요. 꼭 Ollama 오리진을 이렇게 설정을 해 줘야 오류가 나지 않는다고 합니다.

그럼 저는 이 명령어를 그대로 복사를 해서 터미널로 와서 붙여 놓고 실행해 주도록 하겠습니다.

Ollama 서브라고 하고 엔터키를 치면 이렇게 Ollama가 시작이 됩니다.

그리고 나서 다른 터미널 창에서 Ollama LS 이런 식으로 명령을 쳐 주면 현재 Ollama 서버가 실행되고 있기 때문에 이렇게 설치해 놓은 모든 모델들을 확인해 볼 수 있고요.

만약 서버가 시작되지 않은 경우라면 다시 한번 꺼 볼게요.

테스트를 위해서 서버를 종료해 주고 Ollama LS 실행하면 Ollama 앱이 실행 중이지 않다고 얘기를 하고 있어요.

그러니까 다시 한번 복사한 것을 붙여 놓고 실행해 주겠습니다.

다시 로컬 셋업 가이드로 돌아와서 스크롤 다운을 더 해주면 아래쪽에 올라 포 로컬 임베딩고 있죠.

로컬 상에서 임베딩을 만들기 위해서는 노믹 임베드 텍스트라는 모델을 또 다운로드 해 줘야 됩니다.

만약 이 모델이 설치되어 있지 않은 분들은 명령어를 복사하셔서 터미널로 돌아와서 올라 풀 노믹 임베드 텍스트를 실행해 주세요.

일단은 여기까지 하면 터미널 상에서의 올라 셋업은 끝이 는데요.

잠깐 셋업 가이드로 돌아와서 위쪽에 보시면 제가 아까 건너 뛰었던 컨텍스트 윈도우에 대한 내용이 있죠.

기본적으로 올라 아에서는 보통 2048, 2048 정도로 설정이 되어 있는데 만약 모델의 성능이 그 이상을 지원한다면 올라를 일단 모델을 실행하시고 넘 CTX 파라미터를 모델이 지원하는 뭐 최고 값으로 설정해 주신 다음에 새로운 모델로 다시 저장해서 그 모델을 사용해 주라고 그렇게 안내를 하고 있습니다.

그렇게 하지 않으면 아무 경고문 없이 그냥 페일 하기 때문에 긴 프롬프트를 모델이 제대로 처리할 수 없다고 하니까 이 점은 참고하셔야겠습니다.

그러면 Obsidian으로 돌아와서 Obsidian 쪽 설정을 알아보겠습니다.

다시 세팅 창을 열어 주고요. 커뮤니티 플러그인에 이제 Copilot을 설치했기 때문에 제일 아래쪽에 보시면 Copilot 설정이 뜰 거예요.

여기서 설정을 한번 알아보겠습니다. 디폴트 모델이 있는데요.

저는 Ollama를 선택해 주도록 하겠습니다. 그리고 나서는 디폴트 컨버세이션 폴더 네임이 있습니다.

인공지능과 대화한 채팅 내용은 우리가 따로 노트로 다시 저장할 수가 있는데요.

그렇게 저장하는 노트들은 바로 이 폴더에 기본적으로 저장되게 됩니다.

템퍼러처 세팅은 건드리지 않도록 하고요. 토큰 리미트는 저 같은 경우는 일단은 2,000 정도로 맞춰 놨습니다.

또 아래쪽으로 내려와서 OpenAI 모델을 사용하고 싶으신 분들은 API 키를 여기 넣어 주시면 되는데 저는 모든 것을 로컬에서 처리하기 때문에 넣지 않았습니다.

마찬가지로 구글이라는 엔트로픽 서비스라든지 이런 거 전혀 이용하지 않기 때문에 다 넘어가 주고요.

QA 모드 RAG, 로컬 벡터 인덱스. 이제 로컬 상의 벡터 스토어를 이용한다고 하는데 로컬 임베딩 모델의 경우에는 우리가 조금 전에 노믹 임베드 텍스트라는 모델을 Ollama에 설정을 해 줬죠.

설치를 했기 때문에 여기서 골라서 Ollama 노믹 임베드 텍스트 모델을 사용해 줄 수 있습니다.

그리고 오토 인덱스 스트래터지가 있는데요. 저는 일단은 네버로 해놓고 진행을 할게요.

좀 더 자세한 설명은 여기 아래쪽에 나오니까 참고하시면 좋겠습니다.

맥스 소스의 경우에도 기본값인 3으로 해 놓겠습니다. 아래쪽에 어드밴스 세팅에서도 오픈 AI 관련에서는 전부 다 비워 놓도록 하고요.

제일 아래쪽에 로컬 코파일럿, 인터넷 없이도 사용 가능한 로컬 코파일럿 옵션의 경우에 Ollama를 보시면 기본적으로 사용하고 싶은 모델을 여기 설정해 줄 수가 있어요.

여기에 내가 설치해 놓은 모델 이름 중 하나로 정해주면 되겠죠.

저는 라마 3 모델을 이미 설치해 놨기 때문에 일단은 라마 3를 사용해 볼게요.

여기까지 설정을 해 놓고 제일 위로 돌아와서 꼭 세이브 앤 리로드 버튼을 눌러 주시기 바랍니다.

이제는 올라마 모두 설정이 끝났습니다.

여기서 모델을 고르고 또 모드 셀렉션이 있는데 그냥 내가 고른 모델과 채팅을 하고 싶은지, 내 노트가 아주 길 경우에 그에 대해서 이야기를 나누고 싶을지 또는 내 볼트 전체에 대해서 내 모든 노트에 관해서 어떤 질문을 하고 싶을지 아직까지는 이제 베타 단계라고 하는데 이렇게 세 가지 모드가 있으니까 원하는 모드를 사용해 주시면 돼요.

채팅의 경우에는 일반적으로 올라마나 뭐 오픈웹 UI 사용하는 경우가 크게 다르진 않아요.

그런데 여기 재밌는 기능 있죠. 바로 샌드. 이 버튼을 누르면 현재 열려 있는 이 노트의 내용을 모델로 일단 보내 주게 됩니다.

제가 열어 놓은 이 노트는 이서 우화 중에서 '아이와 늑대'에 관한 내용입니다.

아이가 길을 가다가 늑대를 만났는데, 잡혀 먹히기 싫어서 피리를 불어줄 수 있니?

그러니까 늑대가 피리를 불어주다가 동네 개들이 그 소리를 듣고 와서 늑대를 잡는 바람에 아이가 살아난다는 그런 간단한 우화인데, 이 이야기의 레슨이 무엇인지, 교훈이 무엇인지 물어볼게요.

'L 노트'에 따르면 이 이야기의 레슨은 우리가 우리의 본성을 잘 알고 내가 아닌 다른 존재가 되지 않도록 해야 된다.

늑대는 공격하는 그런 도살자의 입장이었는데 한번 피리 실력 뽐내다 피리를 불다가 결국에는 실패를 했다.

이런 식으로 간단한 이야기를 잘 이해하고 있네요. 또 다른 노트에 대해서 한번 물어볼게요.

제가 인공지능 공부하면서 요약을 해 놓은 그런 내용이 있는데, 이 내용에 대해서 한번 질문을 해 볼게요.

더 이상 이솝 우화에 대한 이야기를 하고 있지는 않으니까 새로운 채팅 버튼을 눌러 주도록 하겠습니다.

그리고 다시 새로운 노트, 현재 활성화되어 있는 액티브 노트를 모델에게 보내도록 하겠습니다.

그러면 요약한 내용 중에 이제 3번을 보면 텍스트 생성 모델이 사회적으로 좀 안 좋은 영향을 미칠 수 있는 어떤 것이 있냐 그에 대해서 제가 요약한 내용은 가짜 정보를 굉장히 빠르게 퍼뜨릴 수 있다라고 했거든요.

이거에 대해서 한번 물어보겠습니다. 텍스트 제너레이션 모델이 사회에 어떤 영향을 미칠 수 있니라고 물어봤더니 노트에 나와 있는 내용대로 they could spread false information quickly 내용을 잘 찾아서 대답을 해 줬습니다.

여기까지가 기본적인 챗 모드이고 롱노트 QA 모드로 한번 바꿔 보도록 하겠습니다.

이렇게 바꿨더니 여기 조금 설명이 나오는데 모델의 컨텍스트 윈도우보다 더 노트의 경우에 사용하라고 되어 있어요.

질문을 할 때도 좀 구체적으로 해야 한다고 합니다.

만약에 그냥 단순하게 요약해 줘라든지 이런 식으로 했을 때는 제대로 된 답변을 얻기 어렵다고 합니다.

그래서 일반적으로는 컨텍스트의 크기가 큰 모델을 사용해서 기본적인 챗 모드를 사용하는 것이 더 좋은 결과를 얻을 수 있다고 하고요.

만약에 굉장히 긴 노트가 있을 경우에는 롱 노트 QA를 사용하라고 하네요.

여기 옆에 있는 버튼이 이제 인덱스를 리프레시하는 버튼인데 아직 한 번도 인덱스를 하지 않으셨다면 일단 이 버튼을 눌러주고 시작을 하셔야 되고요.

제가 이 롱 노트 QA를 한번 사용해 보니까 일단 느려요. 기본적인 채팅을 할 때보다 좀 더 시간이 걸리는 것을 느꼈습니다.

그리고 제 노트의 경우에는 그렇게 길지 않기 때문에 여기서는 굳이 롱 노트 QA 모드는 사용하지 않도록 하겠습니다.

다음으로는 볼트 QA, 볼트 전체에 대해서 질문하는 모드로 넘어가 보겠습니다.

만약에 오토 인덱스 스트래터지 아까 세팅에서 오토 인덱스 스트래터지가 있었는데 그거를 'Never'로 설정했다면 반드시 여기 리프레시 인덱스 버튼을 눌러서 인덱스를 만들어 주고 진행하라고 그렇게 안내를 하고 있습니다.

Obsidian 활용도 높이기: Copilot AI 플러그인 설치 및 사용 방법 (Ollama 로컬 모델)

Scripts