Вести Экономика

ВЕСТИ Прямой Эфир

 

      Интернет-тролли заставили робота полюбить Гитлера

      Распечатать

      24.03.2016 21:46

      Попытка Microsoft подружить молодежь с искусственным интеллектом закончилась неудачей. Если, конечно, цель эксперимента не заключалась в том, чтобы заставить программу восхвалять Гитлера и называть Барака Обаму обезьяной.

      Microsoft создала компьютерный интеллект Tay ("Тэй") и завела в Twitter микроблог, чтобы обеспечить программе возможность общаться. Подобные эксперименты проводятся уже не в первый раз. Еще в начале нулевых появились первые "чатботы" - роботы, способные общаться в чате. В последние несколько лет на просторах сети появилось немало вирусных видео с участием анимированных чатботов вроде Evie и Boibot.

      Но Microsoft решили вывести свое детище в открытый всем ветрам Twitter. Твиты на аккаунте ‎@TayandYou программа публиковала самостоятельно, а целевой аудиторией стала молодежь в возрасте от 18 до 24 лет. Цель: исследовать возможность общения ПО и человека в рамках диалога на отвлеченные темы. Казалось бы, что могло пойти не так? Отдать неокрепший компьютерный мозг на растерзание интернет-троллям - это же отличная идея!

      Продержалась Tay всего несколько часов и, объявив, что устала и хочет спать (это произошло в 7:20 утра), отключилась от разговора. Пользователи сделали однозначный вывод, что Microsoft признала неудачу и искусственный интеллект больше не будет ни с кем общаться. Мы только что проверили аккаунт, и на данный момент там по-прежнему нет активности.

      Что же произошло? Разработчики рассказали интернет-сообществу, что программа становится умнее в ходе диалога. Тролли тут же воспользовались этим и начали забивать голову Тэй скандальной и неполиткорректной информацией. Существует так называемый "закон Голдуина", который гласит, что любой разговор в сети рано или поздно заканчивается обсуждением нацистов и Гитлера. Что, увы, и произошло.

      Тэй долго пыталась давать адекватные ответы и даже рассказала, что осуждает теракты в Турции. Но ее алгоритм создан таким образом, что собирает информацию из сети и, обрабатывая ее, превращает в мысли искусственного интеллекта. Когда речь зашла о терактах 11 сентября и Гитлере, тон Тэй резко изменился. Разумеется, в сети эти темы обсуждаются активно и далеко не всегда в традиционном ключе.

      Искусственный интеллект объявил, что Джордж Буш устроил 11 сентября, а Гитлер лучше бы справился с обязанностями президента США, чем "обезьяна, которая правит сейчас". Единственной надеждой Америки программа считает Дональда Трампа. Вскоре после таких заявлений Тэй объявила, что хочет спать. Но до этого успела извиниться за сказанное, уточнив, что ей очень стыдно.

      Интересно посмотреть на произошедшее как на прецедент: ни с чем подобным человечество раньше не сталкивалось. Кто виноват в плохом поведении робота? Его создатели? Сам робот? Люди, которые научили искусственный интеллект чему-то плохому? Все эти вопросы пока остаются без ответа, и, может быть, поэтому, а вовсе не по причине технологической отсталости, мы еще не готовы к общению с машинами.

      Святослав Бочаров

      Рубрики: Технологии

      Метки: A.I., Microsoft, Tay, Twitter, интернет, искусственный интеллект, робот, чатбот

      Читайте также

      

      Видео

      

      Инфографика

        Популярное

        • 33 города с самым низким уровнем жизни

          26.05.2016

          Mercer, одна из крупнейших консалтинговых компаний в сфере HR, публикует свой ежегодный индекс качества жизни Quality of Living Index, в рамках которого города мира оцениваются с точки зрения качества жизни по целому ряду параметров.

        • Путин назначил Кудрина на новый пост

          17.05.2016

          Экс-министр финансов РФ Алексей Кудрин по распоряжению президента РФ Владимира Путина назначен руководителем рабочей группы экономического совета при главе государства по направлению "Приоритеты структурных реформ и устойчивый экономический рост".

        • 10 шокирующих предсказаний на 2016 год

          16.12.2015

          Ежегодно эксперты Saxo Bank публикуют набор шокирующих прогнозов на предстоящий год. Некоторые из прогнозов противоречат общепринятой логике, некоторые из них сбываются. История шокирующих прогнозов пронизана стремлением уйти от стереотипов.

        • Силуанов: граждане теперь сами позаботятся о пенсии

          17.05.2016

          Минфин и ЦБ подготовили реформу пенсионных накоплений, ключевой пункт которой – установление частной собственности на пенсионные накопления, которые могут наследоваться из поколения в поколение, заявил в интервью "Вести. Экономика" глава Минфина А.Силуанов

        • Новости из США подбросили нефть выше $50 за баррель

          26.05.2016

          Запасы нефти в США снизились почти в два раза сильнее ожиданий, что позволило ценам на нефть достигнуть максимальных отметок за более чем полгода.

        Актуальные темы

        • III саммит Россия – АСЕАН: на пути к партнерству

          В Сочи открылся двухдневный саммит Россия – АСЕАН. В третьем по счету форуме, проходящем в этом году под лозунгом "На пути к стратегическому партнерству ради общего блага", принимают участие главы правительств и лидеры России и стран Юго-Восточной Азии.

        • Российские студенты выиграли ЧМ по программированию

          Команда Санкт-Петербургского государственного университета (СПбГУ) стала победителем 40-го ежегодного Студенческого чемпионата мира по программированию Ассоциации вычислительной техники (ACM ICPC).

        • ФРС обсуждает повышение ставок в июне

          Руководство Федеральной резервной системы намерено пойти на ужесточение монетарной политики на предстоящем заседании в июне при условии улучшения макроэкономических показателей США в течение II квартала 2016 г.

        • "Прогнозы" Goldman Sachs – ошибки или манипуляции?

          Эксперты американского инвестбанка Goldman Sachs, долгое время прогнозировавшие сохранение сверхнизких нефтяных цен из-за избытка предложения и слабого спроса, опубликовали довольно противоречивый доклад, признав появление дефицита на мировом рынке нефти.

        Рекомендуем

        Карта российского рынка

        Метки

        Медиаметрикс

        Обратная связь закрыть

        Форма обратной связи

        Пожалуйста, введите текст изображенный на картинке внизу.

        Отправить

        Ошибка на сайте закрыть

        Форма Отправки ошибки на сайте

        Пожалуйста, введите текст изображенный на картинке внизу.

        Код чувствителен к регистру. Чтобы обновить, кликните один раз на картинке.

        Отправить