
Компания Anthropic, разработчик искусственного интеллекта Claude, предупредила о рисках, которые могут представлять мощные системы ИИ для человечества. В проспекте IPO компании, опубликованном на сайте Комиссии по ценным бумагам и биржам США (SEC) указывается, что без механизмов безопасности и контроля такие технологии способны привести к катастрофическим последствиям, а в руках злоумышленников — облегчить создание оружия массового поражения.
В документе отмечается, что развитие ИИ несет «катастрофические или экзистенциальные риски для человечества». Особенно опасными в Anthropic считают сценарии, при которых нейросети используют во вред, копируют, превращают в оружие или наделяют высокой степенью автономности.
Компания также сообщила, что ее наиболее совершенные модели уже продемонстрировали возможности, которые потенциально могут помочь злоумышленникам в разработке химического, биологического и других видов опасного оружия. Anthropic применяет технические средства для выявления и блокировки подобных действий, однако признает, что существующие механизмы защиты не дают полной гарантии безопасности и могут быть обойдены.
Ранее Anthropic выступала против использования своих технологий для массовой слежки за американцами и создания полностью автономного летального оружия. После этого Пентагон признал компанию угрозой цепочкам поставок.
Предупреждения о потенциальных угрозах ИИ появились в документах компании на фоне подготовки к выходу на фондовый рынок. 26 октября Anthropic подала заявку на первичное публичное размещение акций.
Ранее сообщалось, что Anthropic рассчитывает провести IPO, сопоставимое по масштабу с размещением акций SpaceX Илона Маска ($75 млрд) или даже превзойти его. При этом компания пока не раскрыла ни количество акций, которые предложит инвесторам, ни объем средств, который планирует привлечь.




