Исследователь из американской технологической компании в сфере ИИ Anthropic Джейкоб Коксон объявил, что покидает ИИ-индустрию. Специалист опасается, что гонка за развитием нейросетей может привести к апокалиптическому развитию событий уже к концу следующего года.
Как сообщает Wall Street Journal, Коксон — специалист по обучению новых моделей ИИ с использованием огромных массивов данных. Он подчеркнул, что не хочет участвовать в общеотраслевой гонке по созданию систем ИИ, способных к самосовершенствованию. Его беспокоит, что такие системы могут выйти из-под контроля и уничтожить человечество.
В начале года он перешел из OpenAI в Anthropiс, надеясь, что они серьезнее относятся к вопросам безопасности. Однако за это время математик пришел к выводу, что ни один частный представитель индустрии не сможет найти решение без внешнего регулирования или скоординированного замедления развития.
Теперь аналитик решил заняться изучением поэзии.
Коксон не первый, кто отказывается от работы в ИИ-сфере из-за опасений в безопасности. Ранее о рисках предупреждал глава исследовательского подразделения по безопасности ИИ в Anthropic Мринанк Шарма. Он также уволился из компании.
Ранее на этой неделе «ГлагоL» сообщал, что ведущий научный сотрудник OpenAI (компания – создатель ChatGPT) Джекоб Пахоцкий выразил мнение, что ИИ скоро сможет развиваться без участия человека. По его словам, ИИ развивается так быстро, что людям стало намного труднее его понимать и контролировать. Он подчеркнул, что ожидает от лабораторий добровольного замедления работы из соображений безопасности.