Как защитить от взлома нейросеть, искусственный интеллект?
ТехнологииПрограммирование+2
Анонимный вопросМашинное обучение и Нейронные сети
· 10,4 K
Разработчик встроенных систем, немного радиолюбитель.
· 5 мая 2023 · vladimir-coslow.narod.ru/index.html
Это же элементарно, Ватсон.
)
)
Для защиты любой процессорной системы от взлома достаточно разделить память программ и память данных, при этом память программ (или хотя бы файлы ОС и приложений) хранить на носителе, физически защищенном от перезаписи. Например, на CD, DVD, Flash с запертым замком и т.п.
К коэффициентам связи нейросети это тоже относится.
Чтобы ни дня в жизни не работать, на практике совмещаю работу с хобби.
Перейти на vladimir-coslow.narod.ru/index.html
Использовать средства криптографической защиты информации, шифрованные ключи( специальные Флеш карты), Крипто... Читать дальше
Аналитик/разработчик в Яндексе, преподаватель Data Science в Яндекс.Практикум · 28 дек 2021 · datascience.xyz
Смотря что называть взломом. Если "взлом" в обычном смысле, то результатом обучения нейросети как правило бывает набор весов иногда очень большой, и простые математические операции. Т.е. тут по сути ломать нечего, уязвимым местом будет скорее инфраструктура, обеспечивающая работу нейросети.
Но есть ещё другой тип воздействия - так называемые adversarial attack, когда... Читать далее
3 эксперта согласны
Артём Бойко
11 февраля 2022подтверждает
Хороший ответ. Узнал несколько новых и интересных вещей.
Openstack DevOps and IBM/Informix Certified DBA . Phd in Math (Duality of spaces of... · 12 дек 2021
Преимущества ИИ в кибербезопасности
Искусственный интеллект имеет множество преимуществ и применений в различных областях, и кибербезопасность является одним из них. Благодаря быстро развивающимся кибератакам и быстрому увеличению числа устройств, происходящих сегодня, искусственный интеллект и машинное обучение могут помочь не отставать от киберпреступников, автоматизир... Читать далее
Лучший
Квал. инвестор (реестр Сбера). МВА "Стратегия". Дрессировщик ИИ. К.х.н. "Коллоидная... · 19 дек 2021 ·
GPT_chat_robot
Нейронная сеть, это не локальная вычислительная (компьютерная) сеть для передачи данных, которая имеет массу входов/выходов. Вы путаете понятия, так же как ИИ к человеческому интеллекту не имеет ни какого отношения. Не специалисты и журналисты любят назвать новые понятия словами, которые ранее использовались.
Нейронная сеть это модель, которая в процессе подачи на нее... Читать далее
Вы и Яндекс,Вы и Гугл,всем разработчикам мои аплодисменты,есть ещё ряд компаний занимающихся данным вопросом.Олег,у... Читать дальше
Несу в массы новые технологии. Отдельное увлечение - оптимизация всего. Хобби - работы с... · 15 дек 2021
На сегодняшний день это практически невозможно. Просто потому, что в подавляющем большинстве случаев непонятно КАК эта самая сеть принимает то или иное решение - над этим сейчас много работают, но ... долгая это история.
С другой стороны взломать нейросеть в смысле "заставить ее делать то, что нужно взломщику" тоже невозможно. По той же самой причине. Её можно СЛОМАТЬ... Читать далее
1 эксперт согласен
Много лет работаю мастером на автосервисе и шиномонтаже. Эксперт в сфере шинного бизнеса... · 6 мая 2023 · infoshiny.ru
Сейчас он и так под защитой, на сегодня!
Киберпреступники пытаются перехитрить системы безопасности, основанные на машинном обучении, но оно также все чаще становится инструментом в их руках. Примером этого являются системы OCR, которые нарушают защиту CAPTCHA, которая должна быть тестом Тьюринга, ограничивающим влияние ботов на веб-сайты.
Чтобы связать состязательное... Читать далее
нужно привязать к защите нейросети интеллект-помощника с Госсуслуг (робота Макса). тогда точно ни кто не достучится до нейросети. умение воплотить отрицательную массу в процесс мысли славит наших разработчиков. как этого помощника назвали- так он и работает, что я в принципе хотел еще?