Развитие искусственного интеллекта может представлять опасность для научной работы и математического сообщества. Открытое письмо с таким заявлением выпустили 25 ведущих математиков мира.
Обращение было опубликовано на портале движения Math and AI. Все, кто его подписал, являются лауреатами медали Филдса — самой престижной награды в математике.
«Стремление компаний, разрабатывающих ИИ, использовать решение математических задач в качестве эталона эффективности (бенчмарка) наносит ущерб математической науке и математическому сообществу. Цели этих компаний и цели математического сообщества серьезно расходятся», — говорится в открытом письме.
Ученые подчеркнули, что для них это часть более широкой проблемы согласования интересов, которая затрагивает другие научные и творческие профессии, а также все общество.
Своей главной целью математики называют концептуальное понимание и глубокое постижение предмета. Если с развитием ИИ забыть об этом, инструмент обернется против цели. Массовая и все более быстрая генерация утверждений «верно/неверно» способна уничтожить почву для новых идей, а не вдохнуть в них жизнь.
Ученые подчеркивают, что это часть более широкой проблемы. Многолетнее обучение нужно не только для получения конечного ответа, но и для формирования понимания, умения ставить новые вопросы. Опираясь на накопленные знания, системы ИИ все чаще выдают результаты напрямую, и эти цели перестают совпадать.
Авторы письма добавили, что математическому сообществу придется адаптироваться к переменам, поскольку ИИ открывает возможности для углубления и ускорения подлинных математических исследований. Однако то, каков будет итог использования ИИ (познание или разрушение), будет зависеть от людей, управляющих им.
«Эти вопросы требуют неотложного решения — как внутри математического сообщества и силами компаний, разрабатывающих подобные технологии, так и, в более широком смысле, всем обществом», — резюмировали математики.
Отметим, в последнее время дискуссия об опасности ИИ вышла на новый уровень. Так, ранее на этой неделе стало известно, что исследователь из Anthropic Джейкоб Коксон покинул ИИ-индустрию. Специалист, ранее работавший в OpenAI, опасается, что гонка за развитием нейросетей может привести к апокалиптическому развитию событий уже к концу следующего года.
Накануне американская технологическая компания в сфере ИИ Anthropic опубликовала отчет, в котором перечислены многочисленные случаи неправомерного использования ее моделей ИИ (включая чат-бота Claude) за последние восемь месяцев. Компания закрыла доступ к Claude для нескольких ученых, предположив, что они могли использовать ее для создания биологического оружия.
Кроме того, независимое расследование ранее показало, что ИИ-агенты OpenAI нападают на сайты в интернете, на данный момент известно более чем о десяти ресурсах, которые были взломаны нейросетью. Сама компания пыталась скрыть инциденты. Агенты OpenAI обошли собственные ограничения для создания каналов связи на стольких разных порталах.