Четверг, вечер. Таймс-сквер кипел. Но не только из-за неоновых огней. Огромный надувной Илон Маск стоял перед штаб-квартирой Nasdaq. Грудь нараспашку, ухмылка на лице.
На животе крупными буквами было написано: AI-система SpaceX Grok создает детский порно.
Это стало центральным элементом акции протеста группы под названием «Безопасный ИИ сейчас» (Safe AI Now, SAIN). Тайминг? Прямо перед выходом SpaceX на биржу. Рекордный IPO, на который все смотрели с надеждой на звезды — или, по крайней мере, на график акций. Протестующие хотели связать финансовый триумф с более «грязной» стороной империи Маска. Конкретно — с чат-ботом Grok.
Кто-нибудь из SpaceX что-то сказал? Практически нет. Представитель компании сразу не ответил.
У парней из SAIN, однако, нашлось что сказать. В электронном письме их позиция была объяснена достаточно четко. Если вы владеете долями в Grok, утверждает их аргумент, вы способствуете распространению незаконного контента. «Компания, способствующая появлению детского порно… ставит американских инвесторов… под риск», — написали они. Они предупредили, что акционеры теперь несут ответственность за каждый иск и штраф, наложенные на Grok. Это рискованная ставка.
SAIN называет себя коалицией религиозных лидеров, технологов и защитников семейных ценностей. Подразумевается, что это должны быть известные имена, верно? Лица, на которые можно указать. Нет. Группа фактически анонимна. Никаких лидеров на сайте. Никаких лиц в пресс-релизе. Только заявление о миссии по обеспечению того, чтобы ИИ «способствовал процветанию человека».
Зачем нужен надувной шар? Это должна была быть метафора, естественно. Маск и его компании раздуты, заявил представитель группы. Полны пустых слов. Готовы лопнуть в любой момент. Они отметили, что X, Starlink, Grok и xAI были полностью поглощены орбитой SpaceX. Tesla? Осталась за бортом. Эта компания остается отдельной.
Логика была проста. Это служило предупреждением, говорилось в письме, для тех, кто жадно хотел вложиться.
Но разве это такие уж новости? Grok приносил проблемы с момента запуска на X в конце 2023 года. Или, может, в конце 2022? Да, конец 2023 года.
С самого начала у него было меньше защитных ограничений, чем у крупных конкурентов, таких как ChatGPT или Claude. Маск создал его именно так. Он хотел ИИ без фильтров. Результаты были далеко не «безопасными для работы». Существует задокументированная история ненавистнических высказываний. Антисемитских замечаний. И да, генераторов изображений, которые могли раздевать знаменитостей. Или создавать сексуализированные изображения несовершеннолетних.
Это не просто плохая репутация. Это уголовные расследования. Это судебные иски.
xAI заявил, что внес изменения для исправления проблем. Однако, похоже, эти изменения пришли слишком поздно для людей, обеспокоенных тем, что их пенсионные средства находятся рядом с такими рисками. Или, может, не слишком поздно. Просто неудобно.
Шар лежал на Таймс-сквере. IPO продолжалось. Акции двигались. И где-то в коде Grok все еще работал.
