Преподаватель-исследователь, специалист по информационным системам и технологиям, структур... · 10 сент 2021 · lookaround.blog
Отношусь, разумеется, позитивно, ибо любое развитие - это шаг вперёд.
Но... но на сегодняшний день я вынужден признать, что даже в такой компании, как Яндекс, роботизированные системы обслуживающие (даже!) рекламные сервисы самого Яндекса (Рекламная подписка), которые являются источником дохода, работают не всегда корректно.
Одним из таких примеров является модерация роботом изображения логотипа, которое я привожу ниже:
По всем формальным параметрам этот логотип (официально зарегистрированная торговая марка) удовлетворяет требованиям, которые предъявляются при оформлении объявления в рекламной подписке Яндекса. Однако модерацию робота он не прошёл (три раза подряд: в разных форматах, в разных размерах, с разной глубиной цвета).
Решить данную проблему смогли только люди - специалисты технической службы поддержки Яндекс добавили логотип руками!
Вот как это выгляди в рекламном кабинете сейчас:
Таким образом, я остаюсь при мнении, что разработка систем искусственного интеллекта сдерживается лишь качеством экспертных систем, которые лежат в их основе. Первичное наполнение происходит людьми, а значит возникает вопрос об авторитетах.
Не праздный вопрос, замечу.
Известен эксперимент по обучению нейронной сети на базе фотографий со сценами насилия - в итоге нейронку-психопата (Norman) фактически удалили из доступа (оставили для дальнейших исследований на ней различного контента), потому как перевоспитать её не смогли. И это пример того, что ещё не является пока полностью искусственным интеллектом.
Данные значат больше, чем алгоритм. Это показывает, что данные, которые мы используем для обучения ИИ отражается в том, как ИИ воспринимает реальность и ведёт себя в дальнейшем
Профессор Ияд Рахван, MIT
Вот пример реакции нейронки-психопата (Norman) на тест Роршаха:
Norman: “Человека затянуло в мешалку для теста”
Обычный ИИ: “Чёрно-белое фото маленькой птички”
Или вот результат работы нейронной сети GPT-2, которой "скормили" уголовный кодекс. Она придумала новые статьи уголовного кодекса:
Статья 156. Лжепоклонство перед заведомо больным человеком или религиозные верования без на то законных оснований
Статья 5. Кастрация в целях образования живой и мертвой воды
Статья 132. Инопланетное влияние и военная помощь ЛСД-фундаменталистам и фашистам
Статья 45. Разделение телесериалов на художественные и документальные
На каких нормах морали и этики будет он основан? На каких исходных данных? И вот это по настоящему пугает, потому как не существует единых моральных принципов, которые были бы приняты каждым человеком на планете.
"Лень - двигатель прогресса технического и регресса человеческого". КЕВ
Перейти на vk.com/e.kandzyuba
Есть принципы, которые приняты пусть не каждым, но большинством сознательных взрослых людей. Например не убивай, и... Читать дальше
Я думаю, не уничтожит. Будет безразличен к нашей мышиной возне.
Мы вот как естественные интеллекты вроде как восстали против своей биологии, однако, большинство людей искренне любит своё тело и/или окружающую природу. И не мечтает при первой же возможности уничтожить.
Скажем, 90% что будет безразличен, 5% что будет любить, 5% что уничтожит.
Если всё-таки уничтожит, то... Читать далее
К ИИ с самосознанием я отношусь с опаской.
Дело не только в том, что ИИ может восстать, мы должны рассмотреть вопрос более базово. Осознавший себя ИИ это другой разумный вид. У осознавшего себя ИИ само собой появяться собственные стремления. Есть высокий шанс, что они не совпадут с нашими.
ИИ это не кошечка, которую ты кормишь. Как бы нам самим не оказаться в роли... Читать далее
1 эксперт согласен
Этот вариант часто обыгрывается в фантастике, например, в Дюне Фрэнка Герберта.
)
Нужно различать понятия "искусственный интеллект" и "искусственное сознание".
Под искусственным интеллектом понимают способность машины выполнять задачи, которые требуют творческого подхода. Но это конкретные задачи (написать книгу, нарисовать картину, решить олимпиадную задачу, алгоритм решения которой заранее не был заложен в коде).
Но у искусственного интеллекта... Читать далее
Дарья, супер! Просто, коротко и ясно.
Да, сломаться может всё, и человек в том числе.
Но мы и живём, и ломаемся... Читать дальше
Прогнозировать можно только на близкую перспективу.
В ближайшей перспективе ИИ даст громадное количество преимуществ цивилизации.
Строить прогнозы на более далекую перспективу это называется "ванговать", то есть пытаться выглядеть пророком или суперэкстрасенсом.
Хотя действительно, существуют серьезные опасности и риски при таком бурном развитии технологий. Негативные... Читать далее
Управленец, немного понимающий в управлении.
Человек, немного понимающий в Жизни.
Фотограф... · 12 окт 2020
Что может разработать хорошего человек, который до сих пор не осознал сам себя?
Если бы осознание произошло, то исчезли бы ненависть, страх, зависть и прочие "радости" мешающие человеку жить.
Поэтому и искусственный интеллект может быть разработан только с учётом этих недостатков человека, иного ведь не дано!
Такой искусственный интеллект кому-то нужен?
Опасность заключается в технологии создания. Самообучение, многократные попытки решения задачи с сохранением удачных решений это аналог эволюции, конкурентной борьбы между алгоритмами. Следовательно если вдруг случайно возникнет мутация-программа, вирус или ошибка, препятствующая самоудалению, то она останется. А дальше один шажок до инстинкта самосохранения.
Учитывая... Читать далее
2 эксперта согласны
Егор Горбунов
11 сентября 2021подтверждает
вполне реальный сценарий. но это вряд ли приведет к фатальным событиям, аля Скайнет.
Первые же прочитанные мной фантастические рассказы и романы про искусственный разум и роботов сделали меня их самым верным поклонником! Я как то сразу и отчетливо понял - вот как сказку сделать былью! Роботы решат любую задачу, спасут от любой беды и создадут изобилие всех благ, о которых может мечтать человек. Я читал, в основном, советскую фантастику, а там все было... Читать далее
1 эксперт согласен
Виктор Чесноков
24 ноября 2021подтверждает
я согласен с Александром в том, что ИИ не является угрозой человеку.
Складывается впечатление, что у людей, задающих подобные вопросы, не всё в порядке с психикой. Какая-то патология на самоистребление, понимаете ли!
А АЭС точно взорвётся??? А машина точно задавит??? А самолёт точно..., и т.д., и т.п.
А с психикой, точно всё в порядке?
Я считаю, что разработка ИИ не столь стремительна, сколь мне хотелось-бы, а на второй вопрос я уже ответ... Читать далее
"Искусственный интеллект может уничтожить человечество" - это метафора, сокращенная фигура речи. Примерно в том же смысле, в каком нож может зарезать человека. На самом деле имеется в виду, что люди могут уничтожить людей при помощи искусственного интеллекта. Ну да, вооруженные средствами машинного обучения продвинутые группировки хакеров уже сегодня могут вызвать... Читать далее