Генеральный директор Nvidia Дженсен Хуанг заявил, что вероятность превращения искусственного интеллекта в угрозу для существования человечества составляет 0%. В интервью программе CBS Sunday Morning он назвал опасения вокруг ИИ чрезмерными и раскритиковал призывы замедлить развитие технологии.
По мнению руководителя Nvidia, люди, которые предупреждают о катастрофических последствиях распространения ИИ, создают ненужную тревогу. «Пугать людей не нужно. Это безответственно», - заявил Хуанг, фактически поставив под сомнение публичные прогнозы специалистов, годами изучающих возможности и риски искусственного интеллекта.
Особенно резко глава Nvidia высказался о заявлениях руководителей ведущих разработчиков ИИ. Призывы Дарио Амодеи из Anthropic и Сэма Альтмана из OpenAI притормозить развитие моделей Хуанг назвал не основанными на научных данных. Было бы странно слышать от производителя аппаратных мощностей, используемых ИИ, что-то иное.
Глава Nvidia не видит необходимости в новых правилах
Хуанг также считает, что для дальнейшего развития ИИ не требуется срочно вводить новые законы, отраслевые нормы или дополнительные рекомендации. По его версии, существующих механизмов ответственности достаточно, а чрезмерное регулирование может замедлить внедрение технологий в бизнесе, науке и промышленности.
Такая позиция выглядит закономерной с учётом роли Nvidia в рынке искусственного интеллекта. Компания поставляет графические процессоры и сетевое оборудование, на которых обучаются и работают крупнейшие языковые модели. Рост расходов на ИИ напрямую увеличивает спрос на ускорители Nvidia, поэтому компания остаётся одним из главных финансовых бенефициаров нынешнего бума.
При этом заявления Хуанга не означают, что все специалисты считают риски ИИ вымышленными. Опасения включают не только гипотетический сценарий уничтожения человечества, но и более практические проблемы: массовое создание дезинформации, утечки персональных данных, автоматизированное мошенничество, ошибки в медицинских и финансовых системах, а также изменение рынка труда.
Какие ограничения уже действуют
Международная дискуссия о регулировании ИИ уже привела к конкретным правилам. Закон ЕС об искусственном интеллекте вступил в силу 1 августа 2024 года и вводит поэтапные требования для разработчиков и компаний, использующих системы с разным уровнем риска. В частности, запрещаются отдельные практики вроде некоторых форм манипуляции поведением, а для высокорисковых решений предусмотрены контроль, документация и оценка соответствия.
В США Национальный институт стандартов и технологий NIST ещё в 2023 году опубликовал AI Risk Management Framework - добровольную систему управления рисками ИИ. Она охватывает четыре направления: выявление рисков, их оценку, управление и постоянный контроль. Документ не запрещает разработку моделей, но задаёт компаниям практический ориентир для тестирования безопасности.
Для российской аудитории спор особенно важен из-за быстрого внедрения генеративных сервисов в поиске, офисных программах, поддержке клиентов и разработке ПО. Даже без сценариев глобальной катастрофы компаниям необходимо проверять ответы моделей, ограничивать передачу конфиденциальных данных и сохранять человеческий контроль над решениями, влияющими на деньги, здоровье и права граждан.
Позиция Дженсена Хуанга подчёркивает конфликт интересов внутри индустрии: Nvidia заинтересована в максимально широком применении ИИ, тогда как разработчики моделей и регуляторы одновременно сталкиваются с последствиями ошибок и злоупотреблений. Поэтому спор, вероятно, будет идти не только о вероятности «конца света», но и о том, кто должен отвечать за ущерб от уже работающих систем.
