Anthropic公司的Claude 3成功追上GPT-4,它来自怎样一家公司?丨TECH TUESDAY

科技 2024-03-06 08:36 阅读:9

Anthropic公司发布了三个版本的大模型系列Claude 3,其中Opus的性能超过了GPT-4,Sonnet和Haiku虽然智能水平不及Opus,但更便宜,适用于需要快速响应的场景。

Anthropic的团队成员来自OpenAI,具备开发大模型所需的不同能力。他们重点研究基于人类反馈的强化学习(RLHF)技术,以提升模型的安全性和性能。

Anthropic的目标是开发一个“有用、诚实、无害”的大模型,重视模型的安全性。他们投入大量资源研究RLHF技术,通过人类反馈改进模型。

Anthropic开发出“宪法式人工智能”,旨在赋予模型更广泛的“宪法”,培养AI的价值观。他们邀请公民参与制定大语言模型回答问题时的原则,以确保模型的客观性和公正性。

Anthropic的CEO达里奥·阿莫代认为,研发更安全的大模型是解决AI问题的关键。与OpenAI不同,Anthropic不打算开源模型,认为开源可能导致滥用。

Anthropic公司的Claude 3成功追上GPT-4,展示了他们在大模型领域的实力和创新。通过重视安全性和培养AI的价值观,Anthropic在AI领域走出了自己的道路,为未来的发展奠定了基础。