Utilizing Pull Requests in Ollama Development Process

올라마 사용자는 병합되지 않은 풀 리퀘스트를 로컬에서 컴파일하고 테스트하여 기여자에게 귀중한 피드백을 제공함으로써 이를 활용할 수 있습니다.

### Ollama에서 병합되지 않은 풀 리퀘스트를 활용하는 방법
* 🔍 아직 정식 릴리스에 포함되지 않은 Ollama의 새로운 기능을 발견한 경우에도 **GitHub에서 풀 리퀘스트(PR)**를 통해 해당 기능을 사용할 수 있습니다.
* 🛠 이 프로세스는 **`git` 및 `gh` 명령줄 도구가 설치되어 있는지 확인**하는 것으로 시작되며, 이를 통해 GitHub 리포지토리 작업을 간소화할 수 있습니다.
* 📁 프로젝트 전용 폴더를 만든 다음 **`gh repo clone ollama/ollama` 명령**을 사용하여 Ollama 리포지토리를 복제합니다.
* 💻 프로젝트를 성공적으로 컴파일하려면 컴퓨터에 **Golang 및 gcc 버전 11.4.0 이상**이 설치되어 있어야 합니다.
* ⚙ `make -j 5`와 `go build .`로 메인 브랜치를 컴파일한 후, **Ollama 서버를 시작**하고 PR에서 새 기능을 테스트할 수 있습니다.
* 📊 예를 들어 PR #6279에서는 **컨텍스트 임베딩을 정량화**하여 대규모 언어 모델의 메모리 사용을 최적화하여 **메모리 요구량을 절반**으로 줄일 수 있는 K/V 컨텍스트 정량화를 도입했습니다.
* 📝 PR을 사용해 볼 때는 일반적인 의견보다는 **경험에 대한 구체적인 피드백**을 제공하면 관리자가 기능의 효과를 평가하는 데 도움이 됩니다.
* 🌟 여러 PR에 참여하면 경험을 향상시킬 뿐만 아니라 문제를 파악하고 귀중한 인사이트를 제공함으로써 **올라마 프로젝트의 발전**에도 기여할 수 있습니다.

Find Your Perfect Ollama Build

I was a founding maintainer of Ollama, the first evangelist at Datadog, and a former organizer of DevOps Days Seattle, DevOps Days Boston, and Serverless Days Boston. In my day job, I tour the country speaking at conferences and writing about the company I work at. But I am also passionate about gadgets. Some folks don't think that word is appropriate, but it totally fits here. If you meet me in person you will see me light up when I can share with you my latest gadget, tool, or utility. And this is where I get to share that with all of you. You can find more about me at my website (http://technovangelist.com) or on Twitter (http://twitter.com/technovangelist)

Matt Williams

소개: 풀 리퀘스트를 통한 미출시 올라마 기능 활용하기

공식 릴리스 전에 올라마 풀 리퀘스트의 기능을 사용하는 프로세스를 설명합니다.

기여자의 풀 리퀘스트(PR)를 포함하는 Ollama의 개발 프로세스를 소개합니다.

메인 코드베이스에 병합하기 전에 PR의 기능에 액세스하는 데 따르는 어려움을 강조합니다.

PR을 로컬에 배포하고 승인 프로세스에 기여하는 데 관련된 단계를 간략하게 설명합니다.

프로세스 중에 발생할 수 있는 잠재적인 복잡성과 오류를 인정합니다.

메인 브랜치를 먼저 컴파일하고 `git`과 `gh`가 설치되어 있는지 확인하는 것이 좋습니다.

더 쉬운 GitHub 상호 작용을 위한 `gh` 명령줄 도구의 사용에 대해 설명합니다.

Gh Repo Clone` 또는 `Git Clone`을 사용하여 올라마 리포지토리를 복제하는 방법에 대한 안내서입니다.

Golang 및 gcc 버전 11.4.0 이상이 필요함을 지정합니다.

다양한 운영 체제에 대한 Go 및 gcc 설치에 대해 자세히 설명합니다.

make -j 5`와 `go build`를 사용하여 컴파일 과정을 설명합니다.

새 서버를 시작하기 전에 기존 올라마 서버를 중지하도록 지시합니다.

특정 풀 리퀘스트 탐색 및 테스트하기

PR을 테스트하고 건설적인 피드백을 제공하는 것의 중요성을 강조합니다.

'+1' 또는 '이게 필요해요'와 같이 도움이 되지 않는 댓글은 사용하지 마세요.

PR #6279에 초점을 맞춰 샘 맥클라우드의 K/V 컨텍스트 정량화를 소개합니다.

K/V 컨텍스트 정량화와 메모리 사용량 감소에 따른 이점을 설명합니다.

'gh pr checkout'을 사용하여 PR을 체크아웃하고 실행하는 과정을 자세히 설명합니다.

PR을 실행하는 방법과 명령줄 옵션을 설명합니다.

컨텍스트와 모델 정량화의 독립적인 특성을 강조합니다.

모델과 컨텍스트에 대한 정량화 수준의 '스위트 스팟'에 대해 설명합니다.

건설적인 피드백 제공 및 다른 PR 탐색하기

문제를 보고할 때 상세하고 구체적인 피드백의 중요성을 강조합니다.

'git 체크아웃 메인'을 사용하여 메인 브랜치로 다시 전환하는 방법을 설명합니다.

다른 흥미로운 PR과 함께 프로세스를 시도해 볼 것을 권장합니다.

샘 맥클라우드의 기여와 커뮤니티 참여의 잠재적 영향력을 강조합니다.

벌칸, 어센드 NPU, 인텔 iGPU 지원, 로그프롭, 문법, 명령어 완성, 서식 지정 개선 등 기타 흥미로운 PR에 대해 언급했습니다.

결론 커뮤니티 기여 및 행동 촉구

올라마 개선을 위한 커뮤니티 테스트의 중요성을 강조합니다.

플랫폼별 문제를 파악하는 데 있어 사용자 피드백의 가치를 강조합니다.

시청자가 흥미로운 PR을 통해 자신의 경험을 공유하도록 장려합니다.