Вести Экономика

ВЕСТИ Прямой Эфир

 

      Интернет-тролли заставили робота полюбить Гитлера

      Распечатать

      24.03.2016 21:46

      Попытка Microsoft подружить молодежь с искусственным интеллектом закончилась неудачей. Если, конечно, цель эксперимента не заключалась в том, чтобы заставить программу восхвалять Гитлера и называть Барака Обаму обезьяной.

      Microsoft создала компьютерный интеллект Tay ("Тэй") и завела в Twitter микроблог, чтобы обеспечить программе возможность общаться. Подобные эксперименты проводятся уже не в первый раз. Еще в начале нулевых появились первые "чатботы" - роботы, способные общаться в чате. В последние несколько лет на просторах сети появилось немало вирусных видео с участием анимированных чатботов вроде Evie и Boibot.

      Но Microsoft решили вывести свое детище в открытый всем ветрам Twitter. Твиты на аккаунте ‎@TayandYou программа публиковала самостоятельно, а целевой аудиторией стала молодежь в возрасте от 18 до 24 лет. Цель: исследовать возможность общения ПО и человека в рамках диалога на отвлеченные темы. Казалось бы, что могло пойти не так? Отдать неокрепший компьютерный мозг на растерзание интернет-троллям - это же отличная идея!

      Продержалась Tay всего несколько часов и, объявив, что устала и хочет спать (это произошло в 7:20 утра), отключилась от разговора. Пользователи сделали однозначный вывод, что Microsoft признала неудачу и искусственный интеллект больше не будет ни с кем общаться. Мы только что проверили аккаунт, и на данный момент там по-прежнему нет активности.

      Что же произошло? Разработчики рассказали интернет-сообществу, что программа становится умнее в ходе диалога. Тролли тут же воспользовались этим и начали забивать голову Тэй скандальной и неполиткорректной информацией. Существует так называемый "закон Голдуина", который гласит, что любой разговор в сети рано или поздно заканчивается обсуждением нацистов и Гитлера. Что, увы, и произошло.

      Тэй долго пыталась давать адекватные ответы и даже рассказала, что осуждает теракты в Турции. Но ее алгоритм создан таким образом, что собирает информацию из сети и, обрабатывая ее, превращает в мысли искусственного интеллекта. Когда речь зашла о терактах 11 сентября и Гитлере, тон Тэй резко изменился. Разумеется, в сети эти темы обсуждаются активно и далеко не всегда в традиционном ключе.

      Искусственный интеллект объявил, что Джордж Буш устроил 11 сентября, а Гитлер лучше бы справился с обязанностями президента США, чем "обезьяна, которая правит сейчас". Единственной надеждой Америки программа считает Дональда Трампа. Вскоре после таких заявлений Тэй объявила, что хочет спать. Но до этого успела извиниться за сказанное, уточнив, что ей очень стыдно.

      Интересно посмотреть на произошедшее как на прецедент: ни с чем подобным человечество раньше не сталкивалось. Кто виноват в плохом поведении робота? Его создатели? Сам робот? Люди, которые научили искусственный интеллект чему-то плохому? Все эти вопросы пока остаются без ответа, и, может быть, поэтому, а вовсе не по причине технологической отсталости, мы еще не готовы к общению с машинами.

      Святослав Бочаров

      Читайте также

      

      Видео

      

      Инфографика

        Популярное

        • ЦСР назвал сроки повышения пенсионного возраста

          11.04.2018

          Пенсионный возраст будет постепенно повышен к 2034 г. до 63 лет у женщин и 65 лет у мужчин, сообщается в Стратегии развития России на период с 2018 по 2024 гг., опубликованном Центром стратегических разработок (ЦСР).

        • Все включено: 10 самых бюджетных направлений

          06.04.2018

          Нет ничего лучше, чем отправиться в отпуск и не переживать больше ни о чем – целая неделя отдыха и спокойствия. Именно поэтому многие выбирают отдых по системе "все включено".

        • Самые высокооплачиваемые профессии в России

          12.04.2018

          Аналитики компании HeadHunter провели исследование и выяснили, какие профессии по итогам I квартала 2018 г. стали самыми доходными в России.

        • Грядет катастрофа. Зачем страны скупают золото?

          17.04.2018

          Все чаще эксперты предупреждают о грядущей катастрофе в мире экономики. Неконтролируемая печать денег, торговые войны и новые тарифы, рост процентных ставок и снижение объемов розничной торговли – все это указывает на грядущую катастрофу.

        • Преступность: 15 самых опасных городов в мире

          11.04.2018

          Опубликован Crime Index, который позволяет оценить уровень преступности в разных городах мира. В частности, в рейтинге 2018 г. оценивались 327 городов из разных стран мира.

        Актуальные темы

        • ЕДДС (единая дежурно-диспетчерская служба) – четыре важные буквы для города

          Руководитель нижегородского отделения компании «АйТеко» Роман Антонов: «Перед нами стояла интересная и нетривиальная задача в короткие сроки создать полнофункциональное решение, необходимое для круглосуточной работы единой диспетчерской службы.

        • Роскомнадзор может заблокировать и Facebook

          В России до конца 2018 г. может быть ограничен доступ к крупнейшей в мире социальной сети — Facebook, если сервис не приведет свою деятельность в соответствие с российским законодательством

        • Восточный базар - место выгодное

          Несмотря на засилье моллов, которые растут как грибы после дождя, в Египте базары продолжают существовать. Местные жители покупают здесь одежду,обувь, товары для дома. При правильном подходе можно сэкономить до половины стоимости вещей.

        • Блокировка Telegram - большой пиар-ход Дурова?

          Суд принял решение заблокировать Telegram на территории России. Прав ли Дуров, защищая ключи шифрования, чем на самом деле обусловлена его жесткая позиция? И что теперь делать тем, кто привык пользоваться сервисом, - в нашем итоговом лонгриде.

        • Главу Facebook допросили - он обвинил Россию

          Глава Facebook Марк Цукерберг в течение почти 5 часов давал показания в юридическом комитете сената Конгресса США во вторник. В числе ключевых тем встречи была защита личных данных пользователей, распространение в соцсети фейковых новостей

        Рекомендуем

        Карта российского рынка

        Метки

        Медиаметрикс

        Обратная связь закрыть

        Форма обратной связи

        Пожалуйста, введите текст изображенный на картинке внизу.

        Отправить

        Ошибка на сайте закрыть

        Форма Отправки ошибки на сайте

        Пожалуйста, введите текст изображенный на картинке внизу.

        Код чувствителен к регистру. Чтобы обновить, кликните один раз на картинке.

        Отправить