Американская технологическая компания в сфере ИИ Anthropic закрыла доступ к ИИ-модели Claude для ученых, предположив, что они могли использовать ее для создания биологического оружия.
Как сообщает The New York Times, в отчете, опубликованном Anthropic, перечислены многочисленные случаи неправомерного использования ее моделей ИИ (включая чат-бота Claude) за последние восемь месяцев. Попыток создать, предположительно, биологическое оружие было несколько.
Компания не смогла однозначно определить, были ли проводимые исследования законными или злонамеренными, в связи с чем приняла решение остановить эти работы. Проблема точного определения, было ли преступление, связана с тем, что обоснованные биологические изыскания — те, что могут привести к прорывам вроде создания вакцин, — одновременно могут помочь в разработке опасных патогенов. В условиях такой неопределенности Anthropic предпочла действовать с максимальной осторожностью.
Способность передовых моделей ИИ содействовать разработке известных или совершенно новых биологических патогенов вызывает у экспертов серьезнейшие опасения. Эта технология развивается столь стремительно, что даже ее ведущие создатели сомневаются, сможет ли человечество полностью контролировать ее.
Ранее «ГлагоL» сообщал, что исследователь из Anthropic Джейкоб Коксон покинул ИИ-индустрию. Специалист, ранее работавший в OpenAI, опасается, что гонка за развитием нейросетей может привести к апокалиптическому развитию событий уже к концу следующего года.