Anthropic пусна олекотена версия на „опасния“ модел Claude Mythos

Технологичната компания Anthropic предприе неочакван ход, пускайки публично „по-малко мощна“ версия на своя модел Claude Mythos. Решението идва само два месеца след като разработчиците отправиха сериозни предупреждения, че пълният потенциал на технологията е твърде опасен за широко разпространение.

Баланс между сигурност и иновация

Първоначалните опасения на компанията бяха свързани с възможността моделът да бъде използван за създаване на киберзаплахи или дезинформация в големи мащаби. В отговор на критиците, Anthropic внедри множество филтри за безопасност в новата версия, ограничавайки функционалностите, които биха могли да доведат до злоупотреби.

Какво представлява новата версия?

• Ограничени способности за генериране на критичен код.
• Засилени етични протоколи при обработка на заявки.
• По-нисък капацитет за автономно вземане на решения.

Въпреки че критиците продължават да изразяват скептицизъм относно пълната безопасност на ИИ моделите, Anthropic настоява, че този подход позволява на обществото да се запознае с възможностите на технологията в контролирана среда.