Понад 600 співробітників Google надіслали відкритий лист генеральному директору Сундару Пічаї із закликом відхилити потенційний контракт із Міністерством оборони США. Співробітники — серед яких високопоставлені директори та віце-президенти з Google DeepMind та Google Cloud — б’ють на сполох через можливість використання ІІ-моделі Gemini у секретних військових операціях.
Суть конфлікту: Безпека проти операційної гнучкості
В основі спору лежить розбіжність щодо масштабів застосування ІІ. За словами організаторів листа, Google намагався включити в контракти захисні механізми, щоб запобігти використанню технологій для створення автономної зброї чи масового стеження всередині країни.
Однак, за наявними даними, Пентагон наполягає на набагато ширших формулюваннях, вимагаючи, щоб ІІ був доступний для всіх законних цілей.
Для співробітників ця відмінність є критичним:
– Позиція співробітників: Вони стверджують, що «секретні робочі навантаження» за своєю суттю непрозорі, що унеможливлює контроль за тим, чи використовується технологія для профілювання людей або завдання ударів по цивільних особах.
– Позиція Пентагону: Міністерство оборони прагне «операційної гнучкості», яка б дозволила їм використовувати інструменти в міру необхідності без обмежувальних бар’єрів у контрактах.
Зростаючий тренд етичних конфліктів у Big Tech
Цей внутрішній бунт у Google не є поодиноким випадком; він відображає розрив, що розширюється, між стрімким прогресом ІІ і етичними кордонами, встановленими компаніями-розробниками. Технологічна індустрія все частіше виявляється між молотом і ковадлом: прибутковими державними контрактами та моральними принципами своїх співробітників.
Ситуація нагадує недавнє гучне зіткнення за участю Anthropic, ще одного провідного ІІ-стартапу. Генеральний директор Anthropic Даріо Амодеї відмовився надати Пентагону необмежений доступ до своїх систем, висловивши побоювання, що ІІ може бути використаний для підриву демократичних цінностей або виконання завдань, для яких технологія ще недостатньо безпечна. Ця відмова привела до прямого протистояння з урядом США, результатом якого став указ президента Дональда Трампа про заборону використання чат-бота Claude від Anthropic у державних відомствах.
Уроки минулого: Тінь проекту Maven
Цьогорічний протест у Google має серйозний історичний підтекст. У 2018 році аналогічна хвиля невдоволення співробітників змусила Google вийти з Project Maven – ініціативи Пентагону, в якій ІІ використовувався для аналізу відеозаписів з безпілотників.
Нинішня група співробітників вимагає не просто відмовитися від одного конкретного контракту, а фундаментальної зміни політики компанії. Їхні вимоги включають:
1. Офіційне скасування будь-яких ініціатив, подібних до проекту Maven.
2. Розробку та публічне дотримання чіткої політики, що свідчить, що Google та його підрядники ніколи не будуть створювати технології для ведення війни.
«Ми хочемо, щоб ІІ приносив користь людству, а не використовувався нелюдськими чи вкрай шкідливими способами», – заявили співробітники у своєму листі.
Висновок
Протистояння в Google підкреслює фундаментальну напругу в епоху ІІ: у той час як військові та розвідувальні служби прагнуть інтегрувати передові моделі у свою роботу, інженери, які створюють ці моделі, все частіше вимагають прозорості та етичних рамок, щоб запобігти зловживанням.
