Дипфейк академика РАН и «дикий» ИИ удивили участников III Всероссийской школы Национального центра физики и математики (НЦФМ) по искусственному интеллекту и большим данным.
Молодые ученые узнали, как использовать современные средства и модели искусственного интеллекта (ИИ), понимать их устройство и принципы работы, определять нужные модели для решения прикладных задач науки, техники и промышленности, а также оценивать риски их внедрения.
На школе изучали как теоретическую базуразвития технологий ИИ, так и практическую, в том числе с использованием алгоритмов, моделей обучения и кибербезопасностью. Также осуждались возможности эмерджентного интеллекта (способного к самообучению без прямого программирования), технологии ИИ для определения психоэмоционального состояния человека по тексту, риски внедрения ИИ в различные сферы жизнедеятельности социума и необходимость регулирования этих процессов. По мнению экспертов России, необходим ограничительный закон об ИИ.
«Появление «нейронки» не является чем-то принципиально новым, просто сошлось несколько факторов: придумали глубокие нейронные сети (слои вероятности), создали быстрые графические карты с параллельной обработкой, в интернете накопился большой массив данных для обучения», — говорит один из основателей и топ-менеджер российской IT-индустрии, президент аналитической компании «Кибрум» Игорь Ашманов.
Пускать «дикий» ИИ в критическую инфраструктуру, социальную сферу и госуправление категорически нельзя. Основной риск связан с переносом ответственности, когда ИИ принимает решение, но ответственность за последствия никто не несет. Кроме того, становясь дешевым алгоритмическим «креатором», ИИ серьезно угрожает потерей рабочих мест всем специалистам с возможностью алгоритмизации деятельности: журналистам, сценаристам, рентгенологам, кассирам, секретарям, переводчикам и т. д.
«Гладкость генерации ИИ все время растет, при этом детекторы безопасности не успевают реагировать и серьезно отстают. Один из последних шокирующих случаев, когда судья использовал ИИ для вынесения решения по делу: текст решения содержал абсолютно бредовые обороты. Апелляция оставила приговор в силе, поскольку «художественные особенности решения не важны, а применение ИИ в правосудии ничем не регламентировано». Про регулирование ИИ есть типовые мифы: задушит цифровую отрасль; пусть цифра развивается, потом придумаем, что с этим делать; есть саморегулирование; персональные данные нужны для развития и т. п. Все это чревато серьезными последствиями, о которых бизнесу невыгодно говорить сейчас, в момент накопления «первичного цифрового капитала», — подчеркнул президент аналитической компании «Кибрум» Игорь Ашманов.
Почему ИИ стал трендом, в чем принципиальное отличие «слабого» и «сильного» ИИ, молодым ученым рассказал Игорь Каляев, академик РАН, сопредседатель программного комитета школы, научный руководитель направления Южного федерального университета. Также именитый ученый наглядно показал, как легко ИИ может имитировать человека и почему важно понимать, что стоит за такими технологиями. Академик представил созданный нейросетью собственный дипфейк.
«Вокруг ИИ сейчас растет огромный ажиотаж. Некоторые считают, что это панацея от всех наших бед и напастей. Другие, наоборот, считают, что он сродни всаднику апокалипсиса, который уничтожит всю человеческую расу. Безусловно, ИИ является одним из основных трендов мирового научно-технологического развития. И каждое государство старается не отстать в этой гонке и вкладывает умопомрачительные деньги в его развитие», — рассказал академик РАН, сопредседатель программного комитета школы Игорь Каляев.
Свои доклады по теме школы представили и молодые ученые.
Школа по искусственному интеллекту и большим данным НЦФМ прошла с 17 по 21 ноября 2025 года при поддержке «Росатома», Южного федерального университета и Российского федерального ядерного центра — ВНИИЭФ.
Фотографии с мероприятия можно найти по ссылке.
