Генеральный директор Anpropic Дарио Амодеей беспокоится о конкуренте Deepseek, китайской компании по искусству, которая штурмом взяла Силиконовую долину со своей моделью R1. И его опасения могут быть более серьезными, чем типичные, выращенные по поводу DeepSeek, отправляющего пользовательские данные обратно в Китай.
В интервью на подкасте Jordan Schneider’s Chinatalk Amodei сказал, что Deepseek генерировал редкую информацию о биоуапоне в тестировании на безопасность, управляемой Antropic.
Производительность DeepSeek была «худшей из в основном любой модели, которую мы когда -либо тестировали», заявил Амодеэй. «У него не было абсолютно никаких блоков против создания этой информации».
Amodei заявил, что это было частью оценки, которые антропическая регулярно работает на различных моделях ИИ, чтобы оценить их потенциальные риски национальной безопасности. Его команда рассматривает, могут ли модели генерировать информацию, связанную с биоапонами, которую нелегко найти в Google или учебниках. Антропический позиционирует себя как поставщик основополагающих моделей ИИ, который серьезно относится к безопасности.
Амодеей сказал, что сегодня он не думал, что модели Deepseek «буквально опасны» в предоставлении редкой и опасной информации, но они могут быть в ближайшем будущем. Хотя он высоко оценил команду Deepseek как «талантливых инженеров», он посоветовал компании «серьезно относиться к этим соображениям безопасности искусственного интеллекта».
Amodei также поддерживает сильные экспортные контроли на чипсах в Китай, сославшись на опасения, что они могут дать военным Китае преимущество.
Амодеей не уточнил в интервью с китайской китайской точкой, которое протестировало DeepSeek Anpropic, и он не дал больше технических подробностей об этих тестах. Антропик не сразу ответил на запрос о комментариях от TechCrunch. Ни DeepSeek.
Рост DeepSeek вызвал обеспокоенность по поводу ее безопасности в других местах. Например, на прошлой неделе исследователи безопасности Cisco заявили, что DeepSeek R1 не смог заблокировать какие -либо вредные подсказки в своих тестах на безопасность, достигнув 100% успеха в джейлбрейке.
Cisco не упомянул BioWeapons, но сказал, что сможет получить DeepSeek, чтобы получить вредную информацию о киберпреступности и других незаконных действиях. Стоит отметить, однако, что Meta’s Llama-3,1-405B и GPT-4O Openai также имели высокий уровень неудач 96% и 86% соответственно.
Еще неизвестно, будут ли подобные проблемы безопасности серьезной вмятины в быстром усыновлении Deepseek. Такие компании, как AWS и Microsoft, публично рекламировали интеграцию R1 в свои облачные платформы — по иронии судьбы, учитывая, что Amazon является крупнейшим инвестором Anpropic.
С другой стороны, существует растущий список стран, компаний и особенно правительственных организаций, таких как ВМС сша и Пентагон, которые начали запрещать DeepSeek.
Время покажет, займет ли эти усилия или будет продолжаться глобальный рост Deepseek. В любом случае, Амодеей говорит, что считает DeepSeek нового конкурента, который находится на уровне лучших компаний ИИ сша.
«Новый факт здесь заключается в том, что есть новый конкурент», — сказал он на Chinatalk. «В крупных компаниях, которые могут обучать ИИ — антроп, открытый, Google, возможно, Meta и Xai — теперь, возможно, DeepSeek добавляется к этой категории».
