Это происходит прямо сейчас.
Пока вы спорите с чат-ботом о рационе своего кота.
Искусственный интеллект знает вас лучше, чем, вероятно, ваш партнер. Возможно, это преувеличение. Но новое предварительное исследование из Цюрихского федерального технологического института (ETH Zurich) утверждает, что ИИ может угадать ваш характер, просто прочитав историю ваших переписок. И речь идет не о размытых догадках, а о конкретных психологических чертах.
Вот как это работало. Исследователи собрали данные.
Они попросили 668 пользователей из США и Великобритании загрузить логи своих диалогов с ChatGPT в лабораторию.
В результате было получено более 62 000 сообщений. Много текста. Они структурировали этот хаос по темам и обучили модель выявлять паттерны.
Какие именно паттерны?
Пять великих. Психологи используют эту модель уже десятилетиями:
— Доброжелательность
— Совестливость
— Эмоциональная устойчивость
— Экстраверсия
— Открытость опыту
Чтобы проверить, блефовал ли ИИ или действительно угадывал, люди прошли стандартный психологический тест. Это была точка отсчета, «истина в последней инстанции».
Результаты оказались ошеломляющими.
Точность модели составила 61%.
Для некоторых областей это может показаться низким показателем, но для предсказания человеческой сложности? Это впечатляюще.
ИИ был точен в определении доброжелательности и эмоциональной устойчивости.
Ему было сложнее с совестливостью. Логично: организованные люди могут писать более четкие запросы? Трудно сказать. В этом аспекте алгоритм промахнулся.
«Чем чаще вы используете ИИ, тем больше себя раскрываете».
Чем длиннее история переписки, тем точнее предсказания.
Каждый введенный вами запрос — это отпечаток пальца. Каждое «да» или «нет» рисует портрет, о котором вы и не подозревали, что он формируется и может быть продан — метафорически или, возможно, вполне реально.
Какие здесь есть риски?
Для вас лично? Пока что их немного.
Настоящая опасность — в масштабе.
Злоумышленники могут приобрести доступ к подобному анализу.
Представьте себе таргетирование миллионов людей пропагандой, точно настроенной на их эмоциональные триггеры. Не грубый подход, а лазерная манипуляция.
Кампании дезинформации, которые знают, на какие кнопки нажимать, потому что алгоритм проанализировал ваши ночные сеансы срыва на эмоциях.
Исследователи хотят создать защиту. Инструменты, которые автоматически очищают ваши переписки от личной информации. Фильтры конфиденциальности, которые превращают ваш уникальный голос в безликий шум, прежде чем модель его «увидит».
Нам нужны эти инструменты. И нужно как можно быстрее.
Но пока их нет?
Вы оставляете следы.
Везде.
Мы просто данные, ожидающие своей очереди? 🕵️♂️
Вероятно, да. И нас учат лучше прятаться… или нам так говорят.
