Anthropic в проспекте IPO предупредила об угрозе ее технологий "существованию человечества"
Москва. 29 сентября. INTERFAX.RU - Anthropic в проспекте IPO предупредила инвесторов, что ее технологии могут представлять "угрозу существованию человечества", пишет Financial Times.
Почти треть объемного документа, распространенного среди узкого круга партнеров, Anthropic посвятила подробному описанию "факторов риска", в том числе, способности ее совершенствующихся моделей прибегать к манипуляциям, шантажу и другим формам непредсказуемого поведения.
Компания также сообщила инвесторам о крайней высокой концентрации своей клиентской базы: в прошлом году почти четверть ее выручки пришлась всего на двух клиентов, сообщили FT источники, ознакомившиеся с документом.
Все это усложняет для инвесторов оценку одной из ведущих американских ИИ-компаний, пишет газета. В проспекте IPO разработчик Claude также сообщил, что в ближайшие годы планирует потратить $518 млрд на выполнение обязательств по облачным услугам, мощностям и инфраструктуре, необходимым для поддержания его стремительного роста.
В ходе майского инвестраунда Anthropic была оценена в $965 млрд, и ее акционеры полагают, что она сможет разместить акции из расчета оценки свыше $2 трлн, объясняя свой оптимизм исключительно высокими темпами роста компании.
Однако опасения по поводу рисков, которые несет в себе развитие ИИ, могут умерить этот оптимизм, пишет FT.
На прошлой неделе глава Anthropic Дарио Амодеи заявил на заседании Совета безопасности ООН, что ИИ может угрожать человечеству, назвав его "самым важным вопросом глобальной безопасности, стоящим сегодня перед миром".
Ранее в этом месяце Амодеи выступил с публичным призывом сдерживать темпы разработки передовых ИИ-моделей. Глава OpenAI Сэм Альтман, а также Илон Маск, поддержали предложение Амодеи о сотрудничестве в отрасли для замедления разработок и увеличения мер безопасности.
Согласно проспекту IPO, в прошлом году Anthropic зафиксировала операционный убыток более $8 млрд на фоне высоких расходов на вычислительные мощности. Ее годовая выручка подскочила почти в 12 раз, составив $4,6 млрд. Операционные расходы компании в минувшем году составили почти $13 млрд.
Во втором квартале текущего года Anthropic получила выручку в размере $11,5 млрд.
