Риски ИИ

Прочел за неделю два объемных материала про «риски ИИ». Очень разные, но показательные.

Полюс первый: Элиезер Юдковский, книга «If Anyone Builds It, Everyone Dies». Название — тезис, аргумент и вывод одновременно. Сверхинтеллект нас уничтожит, вопрос только когда. Аудитория — те, которым приятно думать что они видят то, чего не замечает толпа.

Полюс второй: Дарио Амодеи, эссе «Юность технологии». 15000 слов от CEO компании стоимостью 60 млрд.

5 категорий рисков: 

1. ИИ выйдет из-под контроля; 

2. террористы получат биооружие; 

3. Китай построит тоталитаризм; 

4. люди потеряют работу;

5. люди потеряют смысл.

5 категорий решений: 

1. мы работаем над безопасностью; 

2. мы ставим классификаторы; 

3. нужен экспортный контроль;

4. филантропия;

5. люди адаптируются. 

 Аудитория — те кому хочется верить, что есть какие-то взрослые и они контролируют ситуацию.

Что общего у обоих полюсов: все угрозы вынесены либо в будущее, либо в Китай, либо в абстракции. Про …