ВЕСТИ

Прямой Эфир

    Прогнозы

      Доклад Всемирного экономического форума и в индустрии искусственного интеллекта увидел гендерное неравенство

      18.12.2018 09:11Распечатать
      Москва, 18 декабря - "Вести.Экономика". Авторы доклада опасаются, что предвзятость может войти и в систему кодирования, из-за чего новые разработки не будут отражать позиции и потребности всех людей.

      Фото: Christian Charisius/dpa

      Искусственный интеллект проникает во все сферы технологической вселенной: от транспорта до здравоохранения и розничной торговли. Но будет ли он отражать позиции и потребности большинства людей? Эксперты Всемирного экономического форума опасаются того, что проблемы в сфере ИИ слишком похожи на то, что происходит в обычном корпоративном мире.

      В докладе ВЭФ, опубликованном 17 декабря, говорится о том, что в кадровой политике в отрасли ИИ в США наблюдается серьезный разрыв: женщины занимают менее четверти рабочих мест.

      "Абсолютно важно, чтобы люди, которые создают ИИ, представляли население в целом", - подчеркивает Кей Ферт-Баттерфилд , глава подразделения ВЭФ по искусственному интеллекту и машинному обучению. Эксперт отмечает, что предвзятость может повлиять на процессы кодирования, поэтому отсутствие гендерного равенства означает, что "на самом деле мы не отражаем население и у нас огромные проблемы".

      Анализ ВЭФ показал, что гендерный разрыв в отрасли ИИ в три раза больше, чем в других отраслях: женщины, занимающиеся искусственным интеллектом, с меньшей вероятностью будут занимать высокие руководящие должности. При этом аналитики подчеркивают, что эти несоответствия будут иметь реальные последствия.

      В 2016 г. Microsoft запустила в Twitter качестве эксперимента по диалоговому обучению чат-бота под названием Tay. Эксперимент быстро столкнулся с рядом проблем, так как пользователи Twitter начали писать на странице бота женоненавистнические и расистские комментарии и Tay начал повторять эти высказывания.

      Неудачным оказался и эксперимент Google, запустившей интеллектуальную текстовую функцию в Gmail. Smart Compose должна была завершать целые предложения и даже абзацы в письмах пользователей популярного почтового сервиса. Она была основана на функции "умного" ответа. Пользователи даже писали, что их пугают "предсказания" Gmail и что ИИ "читает их мысли". Однако алгоритм не справился с обычными местоимениями, не разобравшись, какое же подходит к слову "медсестра".

      Ферт-Баттерфилд также указала на тот факт, что самые популярные виртуальные помощники из Apple, Amazon и Google, предназначенные для обслуживания и приема заказов, обладают женским голосом.

      Программисты "повторяют тот факт, что люди, которые принимают вызовы в колл-центрах, как правило, женщины, но мы могли бы создать другой мир с ИИ, если бы у нас было больше разных команд", заявила эксперт ВЭФ.

      Не все преимущества разнообразия сразу очевидны, но в отчете говорится, что изменение соотношения потребует принятия активных мер.

      "Когда вы привлекаете больше людей к процессу, вы получаете больше творческих результатов", - отмечает Тесс Познер, генеральный директор AI4All, некоммерческой организации, работающей над увеличением разнообразия во многих областях, включая искусственный интеллект.

      Ферт-Баттерфилд и Познер утверждают, что компании с большей долей диверсификации коллектива работают лучше.

      "Мы видим, что разнообразие улучшает инновации и саму технологию", - сказал Познер. Если люди разного происхождения строят системы ИИ, "это будет лучше отражать общество", утверждает эксперт.

      Новости партнеров

      Форма обратной связи

      Отправить

      Форма обратной связи

      Отправить