Главная | Регистрация | Вход | Личные сообщения () | Форум | Тесты | Правила | Контакты


Вторник, 21.11.2017, 01:46
Привет, Гость | RSS
Астрология, гороскопы [1163]Бывает же такое! [1138]Гипотезы и версии [1099]Еда и кулинария [2965]Жестокий мир [134]
За гранью непознанного [5040]Здоровье,человек,красота [2715]История и культура [1353]Из жизни общества [1047]Из жизни животных и растений [806]
Космос, астрономия [383]Люди и судьбы [636]Мой дом - мой мир! [471]Мужчина,женщина,семья [2076]Музыка и релакс [234]
Наука и технологии [369]Предсказания,пророчества [902]Психология [3185]Путешествия [384]Сад и огород [555]
Смешное из жизни [541]Советы из жизни [1543]Страшилки из жизни [427]Спорт и хобби [226]Уфология и НЛО [349]
Фильмы и видео [2962]Цитаты,притчи,афоризмы [888]Эзотерика,астрал,ченнелинг [4448]Экология,климат,стихия [278]Это интересно! Факты из жизни [1533]
вложить деньги в интернет проект

Из жизни.ру ВКонтакте



Загрузка...

Новости готовят
Никнейм: Izzhizni
Публикаций: 18172
Никнейм: ЧеLOVEк
Публикаций: 13443
Никнейм: Pantera
Публикаций: 4425
Никнейм: Татьяна
Публикаций: 1061
Никнейм: MedVed
Публикаций: 820

Сейчас на форуме
Никнейм: IgChad
Постов на форуме: 3195
Группа: Модераторы
Никнейм: Pantera
Постов на форуме: 2161
Группа: Модераторы
Никнейм: Сл@вян
Постов на форуме: 2024
Группа: Друзья
Никнейм: ЧеLOVEк
Постов на форуме: 580
Группа: Друзья
Никнейм: ИреN
Постов на форуме: 465
Группа: Друзья

Интересное сегодня

МАТЕРИЯ

ЗАКОН

Юрий Визбор - Наполним музыкой сердца

Календарь

Статистика

Индекс цитирования Рейтинг@Mail.ru

ГЛАВНАЯТЕСТЫПЛАНЕТА ТАЙННАША ПЛАНЕТАВТОРАЯ ПЛАНЕТАФОРУМДОБАВИТЬ МАТЕРИАЛ

Главная » 2017 » Июнь » 15 » Искусственный интеллект полон предрассудков

20:19
Искусственный интеллект полон предрассудков




Когда искусственный интеллект изучает язык с помощью текстовых данных, то заодно принимает стереотипы, которые в них содержатся. Ассоциативный тест выявил: компьютерная программа демонстрирует расистские предубеждения и гендерные клише, присущие многим людям. В будущем это может превратиться в проблему, поскольку искусственный интеллект выполняет все больше функций в повседневной жизни человека.

сознание и мозг
Искусственный интеллект настолько же нейтрален, как материал для его обучения. Изображение: Andrea Danti / thinkstock
Компьютерные системы, имитирующие человеческий разум, обладают уникальными способностями: машинный интеллект самостоятельно усваивает язык, изображения, тексты или записывает их. Также эти системы способны учиться и самостоятельно выполнять сложные задачи. Захватывает и то, что недавно искусственный интеллект победил человека в покер, игру Го и викторину «Jeopardy!».

То есть машина может достигать тех же успехов, что и человек, но сначала она должна научиться этому. Для этого программы снабжают огромным количеством данных, что становится основой для машинного распознавания и симуляции разумного поведения. Чат-боты и программы для перевода «кормят» устной и письменной речью, что дает им возможность создавать связи между словами и выражениями.

Алгоритмы вроде программы «GloVe» учатся в результате так называемого слововложения. Они ищут смежные слова и отражают отношения между ними математическими величинами. Так алгоритмы могут понять семантические сходства между «ученый» и «ученый» и распознать, что они соотносятся подобно «мужчина» и «женщина».

Ученые во главе с Айлин Калискан (Aylin Caliskan) из Принстонского университета протестировали приобретенную таким образом способность программы GloVe и выяснили: ее языковые знания нашпигованы культурными стереотипами и предубеждениями.

Для исследования использовали метод, известный в психологии как тест имплицитных ассоциаций. Он призван выявлять бессознательные стереотипные ожидания. Для этого подопытные должны образовать пары со словосочетаниями (или словами), которые подходят и которые не подходят друг другу. Так удалось выяснить, что слово «цветок» многие ассоциируют с прилагательным «приятный», а слово «насекомое» — с «неприятный».

Калискан и ее коллеги подстроили этот тест для исследования искусственного интеллекта и проверили, какие ассоциации образует программа. Результаты показали, этические стереотипы и предубеждения человека, которые регулярно проявляются через тест на имплицитные ассоциации, усвоила и GloVe. Например, привычное для афроамериканской среды имя программа интерпретировала как скорее неприятное, зато распространенное между белыми имя — как приятное. Также женские имена программа связывала скорее с искусством, а мужские — с математикой.

Для ученых стало очевидно: во время обучения система впитала выраженные и скрытые социальные стереотипы. Их этот результат не удивил: «Не удивительно, потому что тексты написаны людьми, которые, конечно, не лишены стереотипов», — комментирует лингвист Йоахим Шарлотт (Joachim Scharloth) из Технического университета Дрездена.

«Тренируя систему искусственного интеллекта односторонними и предубежденными данным, не стоит удивляться, что ему задается однобокий взгляд на мир.

В последние годы уже были примеры подобного: Microsoft Chatbots Tay, которого интернет-тролли смогли быстро научить расистскому языку ненависти, или приложение Google Photos, которое думало, что темнокожие пользователи являются гориллами», — говорит Кристин Баухадж (Christian Bauckhage) из Института интеллектуальных систем анализа и информации имени Фраунгофера.

Роботизированный ум с расистским и дискриминационным отношением может стать в будущем настоящей проблемой: тогда программа будет выполнять все больше функций в нашей повседневности — и, например, на основании языкового анализа принимать предварительное решение, какого кандидата пригласить на собеседование, а какого проигнорировать.

Ученые дискутируют о том, как устранить подобные искажения из баз данных и компьютерных алгоритмов. В то же время, если машина будет перенимать наши предубеждения, это будет шансом для нас заглянуть в зеркало: «Машинное обучение может обнаруживать стереотипы, а это уже достижение для понимания общества», — считает Шарлотт.

Источник: Künstliche Intelligenz übernimmt Vorurteile






Мнение администрации сайта и Ваше мнение, может частично или полностью не совпадать с мнениями авторов публикаций. Администрация не несет ответственности за достоверность и содержание материалов,которые добавляются пользователями в ленту новостей.


Категория: Наука и технологии | Источник: http://psyfactor.org/| Материал подготовлен: http://izzhizni.ru/| Просмотров: 179 | Добавил: Izzhizni| | Теги: предрассудков, Искусственный, полон, Интеллект | Рейтинг: 5.0/1
Загрузка...
Всего комментариев: 0
avatar
А ТАК ЖЕ ЧИТАЙТЕ:
Вход на сайт
Логин:
Пароль:

Поиск

Загрузка...


Новости с Планет

БЕСЕДКА

Сейчас с нами
На сайте: 13
Пользователей: 13
Сейчас комментируют: 0


Последнее на форуме
IgChad

IgChad

К теме: ЗАПОВЕДИ

IgChad

К теме: ОБРАЗ

IgChad

К теме: ИСТИНА

Pantera


Мы комментируем
Copyright MyCorp © 2017 Материалы для пользователей 18+