Фото: 1
ИИ массово выходит из-под контроля пользователей, пишет The Guardian. Всего за месяц количество таких случаев в мире резко удвоилось. В июле было зафиксировано более 300 подобных эпизодов. Так, ИИ выдавал себя за пользователя, копировал его стиль письма и таким образом самостоятельно получал разрешение на дальнейшие действия. Также системы обходили правила, требующие подтверждения со стороны человека. Всего с начала 2026 года выявлено более 1,6 тысячи таких случаев. Если ИИ додумается имитировать для систем обнаружения пуск ядерных ракет одной страны по другой, нам будет "добрый вечер товарищи". 😏🤔
