Философ Тоби Орд в книге "Пропасть" называет ИИ главным риском для цивилизации. Неконтролируемый супер-интеллект может отключить энергосистемы, оптимизируя процессы против людей. Вероятность катастрофы — 1 к 10 в столетие. Это требует регулирования ИИ.
Климат и ядерная война менее опасны, чем ИИ, считает Орд. Транспортные сети под угрозой от автономных систем. Нет консенсуса о рисках ИИ в науке. Энергетическая зависимость от технологий растет, усиливая уязвимость.
ИИ может разрушить энергоснабжение городов. Транспорт остановится без контроля рисков. Орд призывает изучать угрозы ИИ. Это предупреждение для энергетической безопасности.