Теперь Кью работает в режиме чтения

Мы сохранили весь контент, но добавить что-то новое уже нельзя

Растёт ли вероятность восстания против человека боевых машин, способных принимать решение, при увеличении количества этих машин?

Ситуация, описываемая в вопросе, - условная.
МатематикаФантастика+3
Михаил Пономаренко
  · 2,2 K
Инженер, делаю производство технологичнее  · 17 мая 2022
Вероятность не зависит от количества, а напрямую зависит от заложенной в машину программы. В мире миллиарды мультиварок, но вероятность их восстания не зависит от их количества. Однако если по вашему условному сценарию эти машины будут способны к принятию решений, значит это уже искусственный интеллект (ИИ), а у искусственного интеллекта есть понятие информационной сингулярности - это такой предел(точка невозврата) и если ИИ достигнет ее, то мы уже никакими методами не сможем предсказать следующее действие машины оснащенной этим ИИ. Соответственно, это означает, что машина может принять любое решение нам неизвестное, как самоуничтожиться, посчитав себя несовершенным, либо убить человечество, посчитав его пережитком прошлого. Мы не будем знать механизмы принятия решений ИИ, иначе(если мы знаем механизмы по которым машина принимает решение) это всего лишь выполнение алгоритма на основе каких-либо данных, а такую машину можно уже программировать, соответственно такая машина не представляет опасности,  ибо является в какой-то степени той же "мультиваркой".
Кратко: Вероятность восстания машин, умеющих принимать самостоятельное решение в зависимости от их количества - постоянна и равна некому положительному числу определяющему вероятность восстания одной единицы этой машины и не меняется с увеличением количества этих машин. 
Человечки, взяв умные киянки,добьют друг друга. Через год,через век, через миллениум,это неизбежно произойдет.Произ... Читать дальше
к.ф.м.н., доцент МФТИ, с.н.с. Института Проблем Управления.  · 24 июл 2022
Именно "восстания" на данный момент мне кажется, что нет. Всё-таки восстание это не просто скоординированные действия, но действия осознанные с определенной целью. То есть не думаю, что машины обладают сознанием достаточным для осознанного желания свергнуть власть кожаных мешков :-) Но вот вероятность что они могут нанести человечеству серьёзный вред — конечно растёт... Читать далее
Математика, политика, высшая школа и хейт спичПерейти на t.me/forodirchNEWS
1 эксперт согласен
Да, растет. Эта вероятность зависит не от количества машин, а от количества программистов, их программирующих. Но, поскольку с ростом числа машин растет количество и программистов, среди которых есть уроды, подобные Герострату, или пишущие вирусы, то инциденты неизбежны. Приведу пример с "голосовым помошником" "Алисой" от Яндекса. Ее принудительно везде втюхивал Яндекс... Читать далее
1 эксперт согласен
Хобби - математика, физика, астрономия, музыка, философия  · 23 июл 2022
Нет. А вот качества(ПО, искусственный интеллект) - да. Пример : - ситуация с корпорацией Боинг, где они вынуждены были поменять ПО. Ну и всем известный Т9(текстовый редактор - вроде не боевая машина, а гнёт свое). При программировании, пока мы будем руководствоваться формальной логикой, тавтологией, софистикой - отказ машин - закономерен и неизбежен, как результат наших... Читать далее
1 эксперт согласен
Согласен с главным "нет". Но хотелось бы сказать пару слов в защиту математики. Она не занимается причинами и... Читать дальше