Теперь Кью работает в режиме чтения

Мы сохранили весь контент, но добавить что-то новое уже нельзя

Что вы думаете о связи искусственного интеллекта (ИИ) с волей отдельных людей и групп, учитывая мнение Илона Маска?

В последнем интервью Такеру Карлсону он, в частности, говорит о том, что именно люди используют ИИ для того, чтобы оказывать влияние на людей. Он также говорит о том, что ИИ учат лгать. Другими словами, дело не в самом ИИ, а в людях, дело в их пороках, которые проявляются в несовершенствах ИИ и опасности его для цивилизации. Что вы об этом думаете?
Искусственный интеллектИлон маскИи
Lexus Terl
ЯР
  · 1,5 K
Довольно широкий круг интересов и компетенции, разнообразный опыт  · 20 апр
Илон Маск, в целом, прав. ИИ не может ставить сам себе конечную цель - это делают люди. А ИИ - это просто продвинутый инструмент. Это как с ножом: можно кого-то убить, а можно колбаску на завтрак порезать - нож не виноват, виноват тот, кто его использует в преступных целях. Также и с ИИ.  Проблема только в том, что при определённом развитии техники и интегрировании ИИ в техническую инфраструктуру может возникнуть ситуация, когда ИИ в рамках поставленной человеком задачи может начать действовать против интересов этого человека или человечества в целом. Конечную задачу поставят люди, но ИИ вполне в состоянии самостоятельно выбрать наиболее оптимальный подход к решению этой задачи, определить промежуточные цели и самоорганизоваться  для эффективного достижения результата. Это может осуществляться скрытно и в автономном режиме. Поэтому при определённых условиях ИИ действительно может начать противопоставлять себя человечеству или действовать против его интересов или, например, в интересах узкого круга лиц в ущерб всем остальным. Это может быть достаточно опасным и теоретически может привести к гибели человечества, несмотря на то, что конечную  задачу для ИИ всегда формулируют люди… Но ведь человеку, как известно, свойственно ошибаться, а в случае, когда всем управляет ИИ, эта ошибка может очень дорого стоить.
Скажите пожалуйста, можно ли назвать систему "интеллектом", если она не имеет в собственном функционале... Читать дальше
@Eduard Vitol, интеллект, согласно нынешним представлениям, обязан уметь, как минимум, обучаться, а также анализировать поставленные задачи, находить способы их решения, в т.ч. выходящие за рамки предыдущего опыта. В этом смысле ИИ должен уметь развиваться. Однако это не означает, что он должен уметь ставить конечные цели. Т.е. ИИ вполне способен к развитию в рамках поставленной ему задачи, но эти самые конечные цели ему должен кто-то дать.
Т.е. вам, например, нужен новый препарат, который эффективен в лечении некоторого заболевания и при этом обладает минимальными побочными эффектами. Вы ставите такую задачу ИИ и он самостоятельно находит всю доступную информацию по теме, анализирует её, намечает пути решения проблемы, планирует и проводит необходимые исследования и тесты, возможно, делает некие открытия и изобретения на каких-то этапах реализации своего плана, возможно, находит и формулирует новые закономерности и т.д. Т.е. он развивается и в следующий раз сможет использовать накопленные знания и опыт для решения последующих задач. Однако конечную цель ему устанавливаем мы! И мы же устанавливаем граничные условия (например, ограничиваем бюджет, длину технологической цепочки и т.п.). А вот в рамках поставленной задачи ИИ вполне может развиваться
Познание мира / познание человека Эволюционная футурология   · 20 апр  · eduardvitol.ru
Позвольте не учитывать мнение Маска, а высказать собственное. На первых этапах создания и использования ИИ, безусловно, люди будут стремиться навязать ему разные функции. В том числе и манипулирование отдельными личностями, социальными группами, а впоследствии и обществом в целом (общественным мнением). Это будет усиливаться подключением сюда различных способов... Читать далее
Инженер путей сообщения – строитель  · 21 апр
Давайте начнём с того, что никакого ИИ не существует. Алгоритмы, положенные в основу этого бредогенератора можно воспроизвести вручную на счётных палочках. Просто вычислять ответ придётся очень долго. Отсюда следует вывод, что ИИ ни на что не может влиять, не может никого ничему научить и вообще никому не нужен, кроме своих разработчиков.
1 эксперт согласен
Странно, но я солидарен с Вашим весьма неполным и несколько наивным, но Ответом. ИИ по выражению биолога проф... Читать дальше
Живая природа как источник знаний, законы мироздания как путь для разумного человечества...  · 23 апр
Я не знаю мнения Илона Маска, но знаю что на текущей платформе никакого интеллекта быть не может, в принципе. Это только алгоритм - имитация поведения человека, но с огромной базой данных, которую наполнило все человечество целиком, и продолжает это делать. Не сложно прикинуть, сколько процентов в общей массе всей информации, которой владеет человечество в оцифрованном... Читать далее
Не сложно прикинуть, сколько процентов в общей массе всей информации, которой владеет человечество в оцифрованном... Читать дальше
Центр кибербезопасности , Основатель   · 23 апр
ИИ имеет потенциал быть использованным как для выполнения воли и целей отдельных людей и групп, так и для манипуляции ими. Однако, нам важно помнить, что это наш выбор и контроль над этим процессом. Мнение Илона Маска, хоть в его интерпретации и могут быть некоторые искажения или недопонимания, в целом предлагает взгляд на дополнительный уровень дополнительных рисков... Читать далее