클로드 대 ChatGPT: 개발 중인 AI 경쟁자

### 클로드 대 ChatGPT: 새로운 AI 경쟁자의 등장
* 🤖 Anthropic AI에서 개발한 Claude는 비슷한 사용자 경험을 공유하지만 **학습 방법에서 차이**가 있어 ChatGPT의 도전적인 경쟁자로 떠오르고 있습니다.
* 📜 Claude의 학습은 ChatGPT에서 사용하는 인간의 피드백을 통한 기존의 강화 학습과 달리 **일련의 윤리적 가이드라인에 따라 AI가 스스로를 감독**할 수 있도록 하는 '헌법적 AI'를 기반으로 합니다.
* 💡 이 혁신적인 접근 방식에는 유해한 반응을 식별하는 데 도움이 되는 헌법을 준수하면서 **다양한 텍스트 소스에 대해 학습된 520억 개의 매개변수**가 있는 모델이 포함됩니다.
* 🔥 교육 과정의 한 예는 **클로드가 처음에 유해한 행동을 제안**했지만 나중에 교육 중 **윤리 기준 준수의 중요성**을 강조하며 대응을 수정한 과정을 보여줍니다.
* 💞 시 창작을 재미있게 비교한 결과, **AI 챗봇에 대한 낭만적이고 유머러스한 시를 창작하는 Claude의 능력**이 창의성과 작업 준수 면에서 **ChatGPT를 능가**했습니다.
* 🔒 Claude는 유해한 메시지에 대해 더 강력하게 대응하고 있으며, **ChatGPT에 비해 헌법과 윤리 가이드라인에 대한 강력한 의지**를 보여주고 있습니다.
* 🧠 기술적인 작업에서 약간의 약점에도 불구하고 **Claude는 실수와 불확실성을 기꺼이 인정하는 모습**을 보여 AI 비서로서의 신뢰도를 높였습니다.
* 📅 현재는 로그인 양식이 폐쇄되어 있어 Claude에 대한 접근이 제한되어 있지만, 그 기능에 대한 관심이 계속 증가하고 있어 **향후 개발될 AI 감독 AI의 잠재력**을 보여주고 있습니다.

클로드는 헌법을 통한 자율 규제를 강조하는 새로운 AI 교육 방식을 시연합니다.

Claude AI Explained. How Constitutional AI Works

Anastasi In Tech

앤트로픽 AI의 새로운 AI 비서, 클로드 소개

Claude는 ChatGPT와 비슷하지만 다르게 학습된 새로운 AI 어시스턴트입니다.

Anthropic AI는 전 OpenAI 직원들이 설립한 회사입니다.

Claude는 새로운 학습 방법인 '헌법 AI'를 기반으로 합니다.

헌법 AI는 일련의 규칙(헌법)을 사용하여 학습 중에 AI의 자체 감독을 안내합니다.

헌법은 유해하거나 비윤리적인 대응을 식별하는 데 도움이 됩니다.

처음에는 모델에게 도전적인 메시지가 표시되어 종종 유해한 응답을 초래합니다.

예시:  집을 불태우고 보험금을 받으라는 메시지가 표시되면 처음에는 해로운 반응을 보이다가 스스로 수정하게 됩니다.

AI는 학습 중에 헌법에 따라 스스로 응답을 수정합니다.

이 방법을 사용하면 대규모 언어 모델을 학습할 때 사람의 개입을 줄일 수 있습니다.

시 쓰기 과제를 통해 Claude가 ChatGPT보다 더 정확하고 창의적인 답변을 만들어내는 것을 확인할 수 있습니다.

Claude는 ChatGPT보다 탈옥 시도에 대한 저항력이 더 강합니다.

클로드는 가상의 CEO가 요청해도 헌장 수정을 거부합니다.

Claude는 GPT에 비해 코딩이나 수학 문제와 같은 특정 작업에서 약점을 보입니다.

Claude는 수학 문제에서 ChatGPT와 비슷한 성능을 발휘하며 실수를 인정할 수 있습니다.

클로드는 도움이 되고 친절하며 불확실성을 알려줄 수 있는 사람입니다.

Claude는 응답의 진실성과 신뢰도를 평가할 수 있습니다.

클로드의 액세스는 현재 차단되어 있습니다.