Авторы письма призывают приостановить обучение систем ИИ, более мощных, чем GPT-4. Именно ее выпуском и было вызвано появление письма.
«Системы искусственного интеллекта с интеллектом, конкурирующим с человеком, могут представлять серьезную опасность для общества и человечества, — говорится в открытом письме под названием «Приостановить гигантские эксперименты с искусственным интеллектом». — Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми», — пишут авторы.
Чтобы исключить риски для человечества в целом, надо сначала разработать общие для всех правила безопасности и контроля над экспериментами, и уже потом продолжать работу по развитию ИИ.
Фото: sciencealert.com
Нет комментариев