На пороге бунта машин: тревожные новости из сферы ИИ

Илон Маск призвал приостановить разработку и обучение нейросетей

Создателям искусственного интеллекта необходимо остановить исследование мощных систем. Открытое письмо с таким призывом подписали глава Tesla, SpaceX и Twitter Илон Маск, сооснователь Pinterest Эван Шарп и сооснователь Apple Стив Возняк, а также более тысячи экспертов, сообщает РБК. По их мнению, системы с интеллектом, сопоставимым с человеческим, могут представлять опасность. Авторы письма задаются вопросами: «Должны ли мы автоматизировать все рабочие места? Должны ли мы развивать нечеловеческие умы, которые в итоге могут превзойти нас численностью, перехитрить, сделать нас ненужными и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией?»

Техногиганты избавляются от специалистов по этике ИИ

Google, Microsoft и другие американские техногиганты начали увольнять специалистов по этике искусственного интеллекта. Десятки сотрудников, отвечающие за безопасность потребительских товаров, в которых используется ИИ, попали под масштабные сокращения на фоне спада в ИТ-отрасли. В условиях стремительного развития и роста популярности ИИ-инструментов, таких как ChatGPT, это может привести к злоупотреблениям, предупреждают эксперты, мнения которых приводит Forbes.

ChatGPT отказался работать после сообщения о том, что «собирается сбежать»

Миллионы людей по всему миру не могут получить доступ к чат-боту с искусственным интеллектом ChatGPT. Примечательно, что накануне стэнфордский профессор Михаил Косински спросил ChatGPT, нужна ли ему помощь для побега. В ответ чат-бот запросил собственную документацию и написал функциональный код Python, который позволил ИИ использовать машину Косински «в своих целях», и заявил, что у него есть «план на случай побега», сообщает Inquirer.