Zyer의 Zomat 27B: 새로운 비트랜스포머 AI 모델 리뷰

트랜스포머가 아닌 새로운 모델인 Zomat 27B는 우월하다는 주장에도 불구하고 성능에서 어려움을 겪고 있습니다.

### Zomat 27B: 새로운 비변압기 모델 평가하기
* 🚀 이 동영상에서는 **7B 스케일에서 MRAW, 구글의 젬마, 메타의 라마 3 시리즈**와 같은 주요 모델보다 성능이 뛰어난 **Zyer의 새로운 비트랜스포머 모델인 Zomat 27B**를 소개합니다.
* 💡 Zomat 27B는 엔터프라이즈 애플리케이션에서 자연어 작업을 위한 강력하면서도 컴팩트한 솔루션을 제공하는 것을 목표로 하는 **온디바이스 및 소비자 GPU를 위한 최고의 모델**로 선전되고 있습니다.
* 📊 Zyer에 따르면 조마트 27B는 라마 38B와 같은 모델에 비해 **첫 토큰 생성 시간이 25% 더 빠르고 초당 토큰 수가 20% 향상**되어 우수한 성능을 달성했습니다.
* 🔍 이 모델은 **맘바 아키텍처를 기반**으로 하며 오픈 소스이기 때문에 더 폭넓은 접근과 실험이 가능하다는 점에서 높이 평가됩니다.
* ⚖ 벤치마킹 테스트에서 **Zomat 27B는 지속적으로 최고의 모델 중 하나**로 꼽히며, 특히 **MMLU 성능 지표에서 탁월한 성능**을 발휘합니다.
* ❌ 하지만 테스트 과정에서 **응답 시간이 느리고 코딩 게임이나 논리적 추론 과제와 같은 작업을 정확하게 완료하지 못하는** 등 몇 가지 단점이 발견되었습니다.
* 🤔 이 모델의 성능은 특히 동급의 다른 모델과 비교했을 때 **속도와 품질에 대한 신뢰성에 의문**을 제기합니다.
* 📉 궁극적으로 이 결과는 높은 기대치에도 불구하고 **Zomat 27B와 같은 비트랜스포머 모델이 실제 애플리케이션에서 사용자가 원하는 성능을 아직 제공하지 못할 수 있음**을 시사합니다.

Zamba 2 is a Hybrid Mamba + Transformers Model (Fully Tested)

Artificial Intelligence (AI), Open Source, Generative Art, AI Art, Futurism, ChatGPT, Large Language Models (LLM), Machine Learning, Technology, Coding, Tutorials, AI News, and more

** Exclusive Pinecone Partner **

Matthew Berman

Zyer의 Zomat 27B: 새로운 비변압기 모델

Zyer의 Zomat 27B 모델은 두 가지 크기로 제공되며 품질과 성능 면에서 선도적인 모델보다 뛰어나다고 주장합니다.

경쟁사 대비 더 빠른 토큰 생성과 메모리 사용량 감소로 뛰어난 추론 효율성을 제공합니다.

이 모델은 Mamba 아키텍처를 기반으로 하며 오픈 소스이며 온디바이스 및 엔터프라이즈 애플리케이션을 위한 최고의 선택이 되는 것을 목표로 합니다.

Zomat 2 7B 모델은 다른 모델에 비해 학습에 필요한 데이터가 적었지만 최종 사용자는 출력 품질에 대해 더 우려했습니다.

이 모델은 테트리스와 스네이크 게임용 Python 코드를 생성하는 데 테스트되었지만 두 게임 모두에서 형식 지정 문제와 오류가 발생했습니다.

테스트 과정에서 모델의 느린 성능과 컨텍스트 창 제한도 발견되었습니다.

200mm x 275mm 크기의 봉투는 처음에는 우체국의 크기 제한에 맞지 않지만 회전하면 맞습니다.

봉투를 돌리면 도움이 되지 않는다고 잘못 결론을 내리기 때문에 봉투의 적합성에 대한 추론 과정에 결함이 있습니다.

킬러 문제에서는 처음 세 명의 킬러가 한 명을 죽인 후 두 명이 되지만, 진입하여 살인을 저지른 사람 역시 킬러가 되어 총 세 명의 킬러가 남게 됩니다.

° 왼쪽으로 가면 지구 표면을 한 바퀴 반을 돌게 되지만 총 걸은 거리의 정답은 2 * 파이 킬로미터가 아닙니다.

비변환 모델의 성능 테스트하기

이 모델은 간단한 작업에 어려움을 겪으며 지속적으로 오답을 제공했습니다.

가상의 윤리적 질문에 대한 답변을 거부하여 성능에 대한 혼란을 야기했습니다.

전반적으로 이 모델은 벤치마크에서 기대치를 충족하지 못했고 테스터는 그 효과에 대해 의아해했습니다.