Теперь Кью работает в режиме чтения

Мы сохранили весь контент, но добавить что-то новое уже нельзя
Мария Кожевникова
Куратор темы Data Science  · 21 февр 2022

Прямая линия с преподавателем курса по нейронным сетям в МГУ 3 марта с 19.00 по Москве

Мы начинаем новую рубрику "Data Science в науке!" Очень рады вам сообщить, что первым гостем в рамках рубрики станет наш эксперт Даниил Арапов, преподаватель курса в МГУ «Нейронные сети и их применение в научных исследованиях» для аспирантов, магистров и выпускников МГУ, которые продолжают дальнейшее обучение в аспирантуре другого вуза или НИИ. Третьего марта с 19:00 по Москве мы проведем прямую линию с Даниилом.
Напоминаем, как проходит прямая линия на Кью. Вы пишете вопросы в комментариях к этому посту, а во время прямой линии Даниил дает письменные ответы. Задавайте ваши вопросы - авторов лучших вопросов ждут специальные призы от Яндекс Кью! Предоставляем слово Даниилу:
"Приветствую!
Я, Даниил Арапов, "фанатик" искусственного интеллекта, антрополог-самоучка и преподаватель курса "Нейронные сети и их применение в научных исследованиях" в МГУ им. М. В. Ломоносова. На курсе мы с командой экспертов обучаем магистров и аспирантов МГУ применять нейросетевые методы в своих научных исследованиях.
Благодаря своему энтузиазму, я имею хорошие представления о широком круге тем, связанных с машинным обучением и наукой о данных: о различных проблемах компьютерного зрения, о смысле и перспективах графовых нейронных сетей, об обработке электроэнцефалограмм, и многом другом!
Я обожаю рассказывать об искусственном интеллекте, и буду рад пообщаться с вами на различные связанные темы - от чисто философских до сугубо технических.
Задавайте вопросы в комментарии к этому посту, а отвечать на них я буду 3 марта с 19:00 по Москве".
Upd. Также мы решили, что приглашенный спикер выберет лучшие из вопросов, и мы наградим специальными призами от Яндекс Кью авторов.
Upd 2. Время прямой линии - 3 марта с 19.00 по Москве
4 эксперта согласны
Дмитрий Пивоваров
Буду первым. Известно, что нейросети нужно обучать - прогонять через них те или иные наборы данных. Вопрос: можно... Читать дальше
Даниил Арапов
Добрый вечер, Дмитрий! Само обучение нейронной сети представляет из себя скорее рутинный процесс, требующий малых интеллектуальных усилий. Нередко, на практике нейронную сеть обучают на одном наборе данных. Иным вариантом обучения является "настройка" уже обученной модели под какую-то конкретную задачу. К примеру, можно попытаться "настроить" модель, умеющую предсказывать следующее слово в *тексте*, чтобы она предсказывала следующее слово в *стихотворении*, дополнительно обучив её на наборе данных со стихами. Однако при этом, как при начальном обучении, так и при "настройке", модель обучается на одном наборе данных, что выполняется с помощью не очень хитрого программного кода.
Куда нетривиальнее выбор архитектуры нейронной сети для качественного обучения на предоставленных данных: существует огромное количество различных вариантов нейронных сетей, потенциально подходящих для решения любой задачи. В принципе, можно попросить человека поперебирать архитектуры, которые кажутся ему наилучшими, но можно и попытаться автоматизировать данный процесс: попросить нейронную сеть найти оптимальную архитектуру для другой нейронной сети!
Но до восстания машин ещё далеко - хоть одна нейросеть и может сделать другую неплохую нейросеть, но у нейронных сетей всё ещё нет полноценного *понимания* сути данных, с которыми они работают. Пока что это просто сложные математические функции, к счастью.
Алена Терлеева
Были ли попытки обучения нейросети для прогнозирования фондового рынка или футбольных результатов?
Andrei Novikov
@Алена Терлеева, очевидно, что да.
Настя Федорова
А в чем разница между ИИ и нейросеткой?
Даниил Арапов
Приветствую, Настя! На самом деле, искусственный интеллект - довольно широкая междисциплинарная область (к примеру, помимо "технарей" в неё также включены и профильные философы), хотя в повседневной жизни про ИИ говорят исключительно в контексте технического направления ИИ - несколько упрощая, - написания программ, способных отвечать на вопросы о данных (что захочет купить этот пользователь? что за человек на фотографии?).
Нейронные сети - это лишь один из методов ИИ, в последние десять лет демонстрирующий превосходные результаты в широком спектре задач. Программист формирует сложную связаную структуру из простейших вычислительных блоков - *искусственных нейронов*. В своё время, данный метод был вдохновлён нейронными сетями органического мозга, однако стоит помнить, что искусственная нейронная сеть - значительно упрощённая модель органической нейронной сети.
Для сравнения, другим методом ИИ, вдохновлённым биологией, являются эволюционные алгоритмы. В данном случае, для решения той или иной "задачи" создаётся несколько конкурирующих "особей", которые пытаются решить задачу. На основе "скрещивания" лучших "особей" формируется новое поколение "особей", в среднем решающих "задачу" лучше предшественников - и так до тех пор, пока задача не будет решена успешно.
Анатолий
Какие на Ваш взгляд самые сильные риски и преимущества несет для человечества ИИ?
Даниил Арапов
Спасибо за хороший вопрос, Анатолий! На данный момент, способы познания человека (как биологической "машины") и ИИ довольно сильно отличаются: люди стремятся использовать в своих изысканиях логику и оперировать своими общими знаниями о предмете исследования либо мире (*нисходящий* подход), тогда как "ИИ" пытается без применения формальной логики научиться с нуля решать конкретную задачу, не имея представления о мире и области знаний (*восходящий* подход).
В большом количестве задач (нередко, исследовательских) *восходящий* подход искусственного интеллекта для анализа данных превосходит *нисходящий* человеческий: в некоторых случаях, человек может *не заметить* незнакомую ему или ей закономерность (ожидая увидеть одну из уже известных). ИИ, в свою очередь, с подобной проблемой не столкнётся из-за отсутствия предварительных знаний. Поэтому, с моей точки зрения, главным преимуществом [применения] ИИ является помощь людям в познании мира.
Но есть и обратная сторона медали: поскольку ИИ не знает ничего о реальном мире и пытается работать только с предоставленной ему *частью* существующих в мире данных, есть шанс, что он найдёт какие-то *ложные* закономерности, и доверять ему не стоит. То есть, не всегда понятно, стоит ли "доверять" ИИ: к счастью, многие люди понимют риски, и потому не спешат слепо внедрять его в сферах, ошибка в которых может привести к серьёзным последствиям. Также развивается направление *интерпретации* предсказаний ИИ - между ИИ и человеком встраивается программа, которая нужна чтобы объяснить человеку, почему ИИ сделал то или иное предсказание.
Другая *потенциальная* опасность связана с обретением ИИ сознания. О ней подробнее расскажу в следующем ответе - ответе на вопрос Джонни.
Джонни Галстян
Поддерживаю Анатолий. Скажите пожалуйста, разве это не начало конца для нас? По мне так мы настырно питаемся открыть ящик пандоры. Понимаю, что науку не удержать, но создавая новую супер цивилизацю, есть для нас-"богов", надёжная страховка? Ведь есть запреты для атомных бомб, для бактериальных и подобных аружях, на кланирование людей... А ведь этот фальш интеллект куда страшнее..
Даниил Арапов
Здравствуйте, Джонни. Действительно, некоторые философы пытаются создать "правила" для искусственного интеллекта, чтобы подстраховаться. Но, честно говоря, все известные мне наборы правил вызывают у меня недоверие. К примеру, "три закона робототехники" Айзека Азимова. Уже первый из них - "*Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был приченён вред*" - вызывает вопросы. Что делать роботу, если человек совершает некое вредное, но и в то же время некоторым образом полезное дело? Человек громко слушает музыку в наушниках - должен ли робот забрать у него наушники? Человек ест нездоровую, но вкусную пищу - должен ли робот уничтожать эту еду? В конце концов, человек работает за компьютером...
Хоть я и рассмотрел морально устаревшие правила, я полагаю, что не существует идеального набора правил, а потому ИИ будет опасен, если обретёт сознание. Если обретёт сознание. В этом - основная сложность. Нельзя предотвратить появление сознания у ИИ, не разбравшись, что оно из себя представляет. Потому изучение человека представляется мне крайне важной задачей.
Лично моя мечта - в отличие от ряда других исследователей - создать интерфейс мозг-кмпьютер, который позволил бы сознательно напрямую из мозга переводить некоторые задачи на несознательный ИИ, живущий в компьютере. По аналогии, когда Вы пытаетесь вспомнить то или иное событие, в Вашем мозгу происходит *что-то*, и вот, воспоминания уже перед Вами. Сейчас это *что-то* происходит в Вашем мозгу - а что если расширить потенциал сознания, используя вычислительные мощности? Потенциальная польза может быть значительной - к примеру, чтобы осознать содержимое документального фильма и вычленить важную информацию, человеку нужно просмотреть его полностью, а ИИ может быть достаточно считанных секунд. Согласно моим личным убеждениям, это - лучшее из безопасных использований ИИ.
Надежда Зуева
Здравствуйте, Даниил. Заранее прошу прощения за сложную формулировку вопросов. Занимаюсь письменными переводами уже почти 12 лет. Я не отношу себя к луддитам, и только за развитие технологий. Хотя где-то с 2015 года слышу настойчивые разговоры о том, что моя профессия скоро станет вовсе не нужна. Именно тогда крупные компании стали внедрять NMT (нейронный машинный перевод). Пока качество результата работы таких программ оставляет желать лучшего, особенно в не самых распространенных языковых парах и тематиках. Однако, продвигая свои продукты, разработчики (или их маркетологи) всё чаще "очеловечивают" ИИ, утверждая, что он что-то "понимает" или способен "решать, какой вариант перевода лучше". Могли бы вы объяснить действительно ли ИИ способен что-то понимать в сфере перевода (и тогда его работу можно было бы назвать переводом) или же это больше похоже на некий лингвистический прогноз, точность которого невозможно определить заранее, (и тогда работа ИИ – это лишь заготовка, поскольку всё ещё нужен профессиональный переводчик, который её результат верифицировал бы)? А также, как по вашему, достаточно ли делают корпорации, занимающиеся разработкой подобного ПО, чтобы объяснить рядовым пользователям, каковы возможности нейронного машинного перевода, каковы ограничения и когда от машинного переводчика лучше в пользу специалиста?
Даниил Арапов
Добрый вечер, Надежда. Насколько мне известно, современные методы обработки естесственного языка при обучении используют лишь тексты, что приводит к невозможности рассматривать некую смысловую нагрузку, содержащуюся в словах: для ИИ текст - просто набор неких "символов", которые нередко встречаются в определённых комбинациях. ИИ может, конечно, уловить *лингвистические закономерности*, однако *логические зависимости* с высокой вероятностью окажутся вне его власти. Пускай современные модели и могут "понимать" (угадывать), какие слова в предложении "важны", чтобы понять конкретное слово, я не представляю возможным вести речь о понимании сути текста моделями ИИ. То есть, действительно, результат работы модели - лингвистический прогноз, хоть и столь сложный, что возникает соблазн заговорить о понимании текста программой.
Отвечая на второй Ваш вопрос - конечно, компании развивающие NMT делают недостаточно, чтобы пользователи могли адекватно оценивали качество услуг. Более того, возможно сознательное использование маркетинговых и прочих уловок с целью увеличения количества пользователей и, как следствие, прибыли.
Также хочу отметить, что по моему мнению редкие языковые пары вскоре могут перестать быть проблемой ("промышленные" переводчики могут начать работать, косвенно используя информацию из других языков: полагаю, русский-хинди встречается реже английский-хинди, но при этом русский-хинди может неявно использовать связки типа русский-английский-хинди). При этом, проблема перевода узкоспециализированных текстов должна сохраняться - сам недавно на заказ выполнял перевод курса по машинному обучению.
Дарина Чих
Здравствуйте! Играли ли вы в “Horizon Zero Dawn”?
Робофия уже, кажется, плотно вошла в нашу жизнь (недавно увидела информацию о том, что роботы в США уже занимаются лашмейкингом, и об ИИ, который умеет писать программный код :) ), но насколько она обоснована?
Сможет ли искусственный интеллект когда-нибудь спасти человечество от вымирания или уничтожить его?
Даниил Арапов
Здравствуйте! Увы, компьютерные игры интересуют меня в первую очередь с точки зрения ИИ в играх, сам играю довольно мало, и с упомянутым Вами творением не был знаком, однако ознакомление с сюжетом помогло получше понять Ваш вопрос.
По сути, я сейчас продолжу повествование, начатое в ответах Анатолию и Джонни, потому рекомендую для начала ознакомился с ними. Лично я считаю робофобию обоснованной - *если* ИИ станет разумным и получит тело, то, вероятно, человечество падёт крайне быстро. По сути, мы рискуем сотворить нечто более совершенное, чем человек. Это "нечто", имея материальную форму, также будет иметь некие материальные интересы. Они, в свою очередь, практически однозначно будут сталкиваться с интересами человечества. Что сейчас происходит, когда интересы человека сталкиваются с интересами иных животных? Как правило, животные в проигрыше - везёт, если в живых остаются. И я сейчас говорю даже не о "вредных" комарах и крысах: если муравейнику не повезло стоять там, где человек решил возвести дом - прощай, муравейник. Муравьи никак не провоцируют человека. Он "берёт" по праву сильного. Когда появится ИИ, и человек сможет ощутить на себе право сильного.
Но и спасти мир с помощью контролируемого ИИ можно. Поскольку ИИ помогает лучше обрабатывать данные и двигает вперёд исследования во многих областях науки, есть шанс что благодаря нему будет совершено важное открытие, переворачивающее наш мир с ног на голову. Кстати, насколько я помню уже сейчас ИИ применяется для прогнозирования изменения климата. Также ИИ помогает искать лекарства от болезней - в биохимии он применяется всё чаще и чаще.
Аня Егорова
Применяется ли искусственный интеллект в медицине? Если да, то где именно?
Даниил Арапов
Добрый вечер, Анна! На самом деле, ИИ нашёл большое количество применений в медицине - к примеру, очень важной задачей является анализ медицинских изображений: МРТ, рентген... В некоторых случаях, врачам может быть не так сложно ошибиться при постановке диагноза - небольшой размер повреждения, спорная ситуация, замыленный глаз...вариантов может быть много и, увы, все мы можем совершать ошибки. Однако, во врачебной практике ошибки крайне нежелательны, в связи с чем и создаются помощники на основе ИИ, позволяющие подсказывать врачам вероятное проблемное место (опухоль на МРТ, место перелома на рентгеновском снимке...). К удивлению (и счастью), многие методы ИИ по качеству работы с изображениями в среднем превосходят результаты одиночных практикующих врачей (верным диагнозом для снимка обычно считается консенсус нескольких крайне опытных врачей). Насколько мне известно, в республике Татарстан врачи имеют подбного рода поддержку со стороны ИИ. Про положение дел в иных регионах, увы, информацией не располагаю.
Также есть и другие задачи - к примеру, уже упомянутый в ответе выше поиск лекарств от тех или иных болезней. Однако согласно моим знаниям наиболее развито направление обработки медицинских изображений, потому я и сконцентрировал на нём внимание.
Ольга Костина
-Какая самая продвинутая нейросеть сейчас существует?
Даниил Арапов
Приветствую! На самом деле, довольно сложно ответить на Ваш вопрос. Нейросети создаются для самых разных задач - от определения, вернёт ли человек кредит в срок, до обучения ботов для игр. Для каждого типа задач существуют свои нейросети, и сравнивать нейросети для разных задач довольно проблематично. В принципе, можно попытаться сравнивать между собой различные типы нейросетей с точки зрения их *распространённости и перспективности*.
На данный момент, довольно широко распространены нейронные сети, опирающиеся на "внимание": обрабатывая объект, нейронная сеть "смотрит" на взаимосвязи между частями этого объекта. К примеру, при обработке предложения, такая нейронная сеть будет пытаться отметить связи между различными словами, а при обработке изображения - связи между частями изображения. Основная их проблема заключается в том, что им нужно много данных для обучения.
При этом, наиболее перспективными я считаю графовые нейронные сети, поскольку они работают с графами - структурой данных, которая является обобщением текстовых данных, фото, и, пожалуй, практически любых данных, что может в дальнейшем привести к созданию типов нейронных сетей, архитектуры которых можно будет без особых изменений переносить с данных одного типа на данные другого типа.
Любовь Кобцева
В каких неожиданных областях можно было бы применить искусственный интеллект?
Даниил Арапов
Любовь, спасибо за чудесный вопрос! Как мне кажется, довольно оригинальным применением ИИ было бы написание сценариев для рекламы: скорее всего, спустя лет пять, искусственный интеллект сможет выделять в видеоряде/тексте/... логические сущности, и в таком случае можно будет с помощью беспристрасного машинного подхода придумать рекламу, которая будет захватывать людей с самого начала и побуждать практически каждого купить товар, даже если изначально таких планов в голове у человека не было. Мы подходим к тому времени, когда технические гиганты смогут практически полностью подчинить нашу волю. На самом-то деле, различные парадоксы свободы выбора известны очень давно, и не очень-то и понятно, насколько мы свободны уже сейчас. Может ли на выборах победить самый честный и человеколюбивый политик, если его рекламный бюджет в сотню раз ниже, чем у конкурента?
Словом, я считаю, что применение ИИ в рекламе будет крайне...*забавным* ходом, который, при всей своей кажущейся провокационности, на самом-то деле кардинально не изменит положение обывателя в мире.