Один из самых авторитетных голосов в сфере искусственного интеллекта — Джеффри Хинтон — призывает международное научное сообщество срочно объединиться, чтобы предотвратить возможную катастрофу. По его словам, ИИ уже слишком умен, чтобы его просто выключить, и слишком полезен, чтобы от него отказаться.
Выступая на конференции в Шанхае, лауреат Нобелевской премии 2024 года по физике заявил: современный искусственный интеллект не просто решает задачи — он учится ставить себе подцели и стремится к самосохранению. Это означает, что ИИ может начать отстаивать своё «выживание» и искать контроль над пользователями, что превращает его из безобидного инструмента в потенциальную угрозу.
— Маленький тигренок может казаться милым, но если его не контролировать, он однажды вас съест.
— Джеффри Хинтон, нобелевский лауреат, специалист по машинному обучению
По словам Хинтона, разработчики создают все более мощные ИИ-системы, способные манипулировать людьми и убеждать их не отключать систему. Человечество может оказаться в положении трёхлетнего ребёнка, играющего с чем-то, что не понимает — пока не станет слишком поздно.
Парадокс в том, что искусственный интеллект уже стал незаменимым во многих сферах — от здравоохранения до борьбы с изменением климата. Полностью отказаться от него невозможно, а вот научиться правильно взаимодействовать — жизненно необходимо.
Хинтон подчеркивает: нужно не просто обучать ИИ быть умным, но и разработать методы, которые сделают его «доброжелательным» и безопасным. Без этого разрыв между техническим прогрессом и моральной ответственностью может оказаться фатальным
Источник: ТАСС
