Це відбувається прямо зараз.
Поки ви сперечаєтеся з чат-ботом про раціон свого кота.
Штучний інтелект знає вас краще, ніж ваш партнер. Можливо, це перебільшення. Але нове попереднє дослідження з Цюріхського федерального технологічного інституту (ETH Zurich) стверджує, що ІІ може вгадати ваш характер, просто прочитавши історію ваших листування. І йдеться не про розмиті припущення, а про конкретні психологічні риси.
Ось як це працювало. Дослідники зібрали дані.
Вони попросили 668 користувачів зі США та Великобританії завантажити логи своїх діалогів із ChatGPT до лабораторії.
В результаті було отримано понад 62 000 повідомлень. Багато тексту. Вони структурували цей хаос на теми і навчили модель виявляти патерни.
Які саме патерни?
П’ять великих. Психологи використовують цю модель уже десятиліттями:
– Доброзичливість
– Совісність
– Емоційна стійкість
– Екстраверсія
– Відкритість досвіду
Щоб перевірити, чи блефував ІІ чи справді вгадував, люди пройшли стандартний психологічний тест. Це була точка відліку, «істина в останній інстанції».
Результати виявилися приголомшливими.
Точність моделі становила 61%.
Для деяких областей це може бути низьким показником, але для передбачення людської складності? Це вражаюче.
ІІ був точний у визначенні “доброзичливості” і “емоційної стійкості”.
Йому було складніше з “совістістю”. Логічно: чи організовані люди можуть писати більш чіткі запити? Важко сказати. У цьому вся аспекті алгоритм промахнувся.
«Чим частіше ви використовуєте ІІ, тим більше себе розкриваєте».
Чим довша історія листування, тим точніше передбачення.
Кожен введений запит – це відбиток пальця. Кожне так чи ні малює портрет, про який ви й не підозрювали, що він формується і може бути проданий — метафорично чи, можливо, цілком реально.
Які тут є ризики?
Вам особисто? Поки що їх небагато.
Справжня небезпека – у масштабі.
Зловмисники можуть отримати доступ до такого аналізу.
Уявіть собі таргетування мільйонів людей пропагандою, налаштованої на їх емоційні тригери. Чи не грубий підхід, а лазерна маніпуляція.
Кампанії дезінформації, які знають, на які кнопки натискати, тому що алгоритм проаналізував ваші нічні сеанси зриву на емоціях.
Дослідники хочуть створити захист. Інструменти, які автоматично очищають листування від особистої інформації. Фільтри конфіденційності, які перетворюють ваш унікальний голос на безликий шум, перш ніж модель його «побачить».
Нам потрібні ці інструменти. І потрібно якнайшвидше.
Але поки що їх немає?
Ви залишаєте сліди.
Скрізь.
Ми просто дані, які чекають на свою чергу? 🕵️♂️
Мабуть, так. І нас вчать краще ховатися… чи нам так кажуть.
