Алина, 36 лет:
«Девушки, мой вам совет: простите и забудьте. Вот мой случай. Я несколько лет встречалась с женатым мужчиной — сама была при этом замужем. Только у нас разный подход был. Для Читать далее «Исповедь изменников: почему они это делают»
Компьютерные системы, имитирующие человеческий разум, обладают уникальными
способностями: машинный интеллект самостоятельно усваивает язык, изображения,
тексты или записывает их. Также эти системы способны учиться и самостоятельно
выполнять сложные задачи. Захватывает и то, что недавно искусственный интеллект
победил человека в покер, игру Го и викторину «Jeopardy!».
То есть машина может достигать тех же успехов, что и
человек, но сначала она должна научиться этому. Для этого программы снабжают
огромным количеством данных, что становится основой для машинного распознавания
и симуляции разумного поведения. Чат-боты и программы для перевода «кормят»
устной и письменной речью, что дает им возможность создавать связи между
словами и выражениями.
Алгоритмы вроде программы «GloVe» учатся в результате так
называемого слововложения. Они ищут смежные слова и отражают отношения между
ними математическими величинами. Так алгоритмы могут понять семантические
сходства между «ученый» и «ученый» и распознать, что они соотносятся подобно
«мужчина» и «женщина».
Ученые во главе с Айлин Калискан (Aylin Caliskan) из
Принстонского университета протестировали приобретенную таким образом
способность программы GloVe и выяснили: ее языковые знания нашпигованы
культурными стереотипами и предубеждениями.
Для исследования использовали метод, известный в психологии
как тест имплицитных ассоциаций. Он призван выявлять бессознательные
стереотипные ожидания. Для этого подопытные должны образовать пары со
словосочетаниями (или словами), которые подходят и которые не подходят друг
другу. Так удалось выяснить, что слово «цветок» многие ассоциируют с
прилагательным «приятный», а слово «насекомое» — с «неприятный».
Калискан и ее коллеги подстроили этот тест для исследования
искусственного интеллекта и проверили, какие ассоциации образует программа.
Результаты показали, этические стереотипы и предубеждения человека, которые
регулярно проявляются через тест на имплицитные ассоциации, усвоила и GloVe.
Например, привычное для афроамериканской среды имя программа интерпретировала
как скорее неприятное, зато распространенное между белыми имя — как приятное.
Также женские имена программа связывала скорее с искусством, а мужские — с
математикой.
Для ученых стало очевидно: во время обучения система впитала
выраженные и скрытые социальные стереотипы. Их этот результат не удивил: «Не
удивительно, потому что тексты написаны людьми, которые, конечно, не лишены
стереотипов», — комментирует лингвист Йоахим Шарлотт (Joachim Scharloth) из
Технического университета Дрездена.
«Тренируя систему искусственного интеллекта односторонними и
предубежденными данным, не стоит удивляться, что ему задается однобокий взгляд
на мир.
В последние годы уже были примеры подобного: Microsoft
Chatbots Tay, которого интернет-тролли смогли быстро научить расистскому языку
ненависти, или приложение Google Photos, которое думало, что темнокожие
пользователи являются гориллами», — говорит Кристин Баухадж (Christian
Bauckhage) из Института интеллектуальных систем анализа и информации имени
Фраунгофера.
Роботизированный ум с расистским и дискриминационным
отношением может стать в будущем настоящей проблемой: тогда программа будет
выполнять все больше функций в нашей повседневности — и, например, на основании
языкового анализа принимать предварительное решение, какого кандидата
пригласить на собеседование, а какого проигнорировать.
Ученые дискутируют о том, как устранить подобные искажения
из баз данных и компьютерных алгоритмов. В то же время, если машина будет
перенимать наши предубеждения, это будет шансом для нас заглянуть в зеркало:
«Машинное обучение может обнаруживать стереотипы, а это уже достижение для
понимания общества», — считает Шарлотт. (Science,
2017; doi: 10.1126/science.aal4230)
Источник:
Поставить себя на место других людей — это не врожденная, а
приобретенная психологическая способность, которой маленькие дети должны
научиться. Какие отделы мозга при этом играют важнейшую роль, недавно выяснили
исследователи. Согласно результатам исследований, главную роль играет
специальное сочетание волокон, которое соединяет две части мозга. Только тогда,
когда появляется этот «путь» для передачи данных между этими двумя частями
мозга, люди могут отличить свое «я» и проекцию других.
Поставить себя на место другого человека — это базовая
предпосылка для социального взаимодействия. Взрослые обычно без труда различают
свои и не свои мысли и чувства, но маленькие дети изначально не имеют этой
возможности. Лишь в возрасте 3-4 лет они вдруг начинают понимать — другие могут
думать иначе, чем они. Сначала детям кажется, что убеждения не существуют вне
их непосредственного опыта. Но после третьего года жизни они делают большой шаг
в развитии.
Шарлотте Гроссе-Висманн (Charlotte Grosse-Wiesmann) и ее
коллеги из Института когнитивных и нейрологических исследований имени Макса
Планка (Лейпциг) недавно выяснили, с чем это связано.
Шоколад или карандаши?
Ученые хотели узнать, какие изменения в мозге позволяют
маленьким детям приписывать определенные утверждения другим. С помощью
магнитно-резонансной томографии (МРТ) ученые исследовали, как распределено
белое вещество в различных участках
Полученные данные исследователи сравнили с результатами
поведенческого эксперимента — теста на ложные убеждения. Они проверяли,
способны ли дети осознать: другие люди порой убеждены в том, что на самом деле
не соответствует действительности.
Испытуемым показывали пачку от батончиков, внутри которой
были карандаши. Затем их спрашивали, о чем подумает другой ребенок, когда
увидит коробку. Дети, которые еще не научились отличать мнения других людей, на
этот вопрос отвечали: «карандаши». Они не учитывали то, что другой ребенок не
знает о содержании коробки.
Дугообразный пучок волокон Fasciculus Arcuatus (зеленый)
примерно в возрасте четырех лет объединяет два участка мозга.
Решающее
звено
Сканирование мозга и результаты эксперимента показали
корреляцию. Чтобы различать «я» и проекцию другого, самым важным является
образование специального сочетания волокон — Fasciculus arcuatus. В какой-то
момент в возрасте от трех до четырех лет волокна этой структуры так сильно
развиваются, что она как информационная магистраль (своего рода «супершоссе»)
соединяет две важных участка мозга: область в задней височной доле (он помогает
думать о других людях и их убеждениях) с участком в лобной доле (через нее мы
воспринимаем вещи на разных уровнях абстракции), благодаря этому можем отличить
мнения других и реальный мир.
Соединение волокон способствует эмпатии
Только тогда, когда эти участки соединены Fasciculus
arcuatus, дети начинают делать правильные предположения о взглядах других и
понимать, что другой ребенок может надеяться на шоколадки в упаковке, а не
думать о карандашах. Интересно, что новое образование в мозгу поддерживает эту
способность независимо от того, насколько хорошо развиты другие умственные
способности ребенка, в частности сообразительность, понимание речи, контроль
над импульсами.
«Сильно развитый Fasciculus Arcuatus может также быть
причиной того, почему людям как нельзя лучше удается понять других и их
реакции, — говорит Гроссе-Висманн. — Ведь и приматы могут поставить себя на
место другого, однако в значительно меньшей степени. Это, вероятно, можно
объяснить существованием менее выраженной связи этих волокон», — предполагает
она. (Nature Communications,
2017; doi: 10.1038/ncomms14692)
Источник:
