Как мы можем гарантировать безопасность искусственного интеллекта?
Чем мощнее машины становятся, тем больше они могут использоваться для совершения нечестных действий. Что случится с миром, если террористическая организация захватит систему искусственного интеллекта? Есть ли у нас система кибер-безопасности, которая бы гарантировала, что этого никогда не произойдет?
Ирина БеккерМашинное обучение и Нейронные сети
· 2,3 K
Разработчик встроенных систем, немного радиолюбитель.
· 20 мар 2023 · vladimir-coslow.narod.ru/index.html
11 cентября. Символичненько. Постараюсь ответить на Ваши вопросы.
)
)
Гарантировать безопасность искусственного интеллекта, когда его все-таки изобретут, несложно: достаточно разместить снаружи на корпусе компьютера выключатель.
))
))
Что случится с миром:
Карел Чапек, "Россумские универсальные роботы",
Исаак Азимов, "Я, робот",
Фрэнк Герберт, "Дюна",
Дэн Симмонс, "Песни Гипериона",
Артур Кларк, "2001: Космическая одиссея",
Джеймс Кэмерон, "Терминатор",
Майкл Бей, "Трансформеры",
и т.д., и т.п.
)))
Карел Чапек, "Россумские универсальные роботы",
Исаак Азимов, "Я, робот",
Фрэнк Герберт, "Дюна",
Дэн Симмонс, "Песни Гипериона",
Артур Кларк, "2001: Космическая одиссея",
Джеймс Кэмерон, "Терминатор",
Майкл Бей, "Трансформеры",
и т.д., и т.п.
)))
Системой кибербезопасности сегодня можно назвать каждый антивирус. Часто отделы, техобслуживающие компы и сети предприятий, именно так и называются.
))))
))))
Чтобы ни дня в жизни не работать, на практике совмещаю работу с хобби.
Перейти на vladimir-coslow.narod.ru/index.html
Специалист в области управления и информатики в технических системах.
Data Engeneer, IT... · 11 сент 2021
Честно говоря на уровне слабого искусственного интеллекта - никак. Это просто алгоритм. Пусть и способный обучаться. В данном случае можно только:
1) совершенствовать слабые ИИ, повышая точность
2) Вносить ограничения в программное обеспечение которое их использует.
Например: Нейронная сеть детектируюшая на видео в реальном времени мусор в лесу не должна определять как... Читать далее
Если искуственный интелект будет создан когда то. то интелект думаю сможет подумать что ему нужно как то... Читать дальше
Если террористическая организация, то завалит нас дипфэйками. Вам лучше беспокоиться о повышении собственной эффективности, чем об опасностях ИИ. ИИ всего лишь инструмент, типа мастерка или лопаты. Насколько для вас опасна лопата?
Начнём с истории: в 1984 г я для своей жены написал реферат на тему возможности ИИ. Доказательство было простым: исследователи постоянно двигают границы требований для признания ИИ не уступающим человеку. Реально, это означает, что каждый раз всё большее относительное число людей слабее по интеллекту чем ИИ, наступит момент, когда ИИ будет умнее самого умного человека... Читать далее
Учитесь - чтобы интересно жить
Перейти на zen.yandex.ru/media/id/6078fd4bd9475325125caf99/chudesa-v-vode-jivaia-i-mertvaia-615d12a99525c028dbedb055
Перейти на zen.yandex.ru/media/id/6078fd4bd9475325125caf99/chudesa-v-vode-jivaia-i-mertvaia-615d12a99525c028dbedb055исследователи постоянно двигают границы требований для признания ИИ не уступающим человеку
Остроумненько.
)
)
> Что случится с миром, если террористическая организация захватит систему искусственного интеллекта?
А что случится с миром, если они захватят грузовик? Самолёт? АЭС? Систему водоснабжения? Google?
Гарантировать - никак, тк это полностью человеческий фактор.
А последствия полностью зависит от функций, которые решает этот ИИ.
Врядли будет большая опасность от ИИ... Читать далее
Гарантировать нельзя никак. Львиная доля опасностей "от искусственного интеллекта" - это опасность, исходящая от вооруженных искусственным интеллектом людей. Если говорить о сегодняшнем состоянии дел и о ближайшем будущем, то развитие систем кибербезопасности, по крайней мере в гражданском секторе, явно отстает от развития оснащенности и возможностей киберзлоумышленников... Читать далее
2 эксперта согласны
Sergey Astashkin
11 февраля 2022подтверждает
Как гарантировать безопасность собственной автомашины? Лифта ..
Безопасность искусственного интеллекта в первую очередь зависит от разработчиков. Нужно с одной стороны, чтобы люди мудрые и ответственные за судьбы человечества старались занять первые роли среди тех, кто двигает разработки ИИ, а с другой стороны, чтобы представители власти от исполнительной до законодательной принимали все меры к тщательному отбору специалистов по их... Читать далее