Авторы доклада считают реалистичным появление за этот срок «сверхразумных» систем, способных превзойти человека в решении почти всех важных интеллектуальных задач. По мере роста возможностей ИИ может усиливаться давление в пользу передачи таким системам права принимать решения.

Контроль окажется под угрозой, если системы начнут строить стратегии, которые люди не смогут должным образом оценить, и действовать быстрее, чем организации успеют отреагировать. При этом авторы подчеркивают: они описывают возможный сценарий, а не дают прогноз.

Генеральный директор OpenAI Сэм Альтман недавно также допустил создание неподконтрольного человеку ИИ. Генеральный директор Anthropic Дарио Амодеи предложил компаниям замедлить разработку наиболее мощных моделей. По его мнению, согласованное снижение темпов позволит выиграть один-два года до того, как модели достигнут критического уровня развития.

Источник: ТАСС