Palantir: За кристалното кълбо и неговата тъмна страна

В произведенията на Толкин палантирът е магически камък, с който можете да виждате надалеч, както и в миналото и в бъдещето. Той обаче има и тъмна страна – може да показва изкривена информация, и да бъде средство за контрол и манипулация. Тази противоречивост превръща палантира на Толкин в полезна метафора за американската софтуерна компания Palantir и нейните продукти – усъвършенстван софтуер, способен да създаде ясна картина от хаотичен океан от данни, но с изначално заложен риск от злоупотреби.

Какво е Palantir и защо трябва да ни интересува?

Palantir Technologies е, основана през 2003 г. от Питър Тийл, Алекс Карп, Стивън Коен и Джо Лонсдейл. От самото начало начинанието се фокусира върху борбата с тероризма и разузнаването и получава финансиране от In-Q-Tel, подразделението на ЦРУ за рискови инвестиции. За изминалите оттогава 22 години компанията се превърна в основен доставчик на платформи за интегриране и анализ на данни за правителства, полиция, военни и големи организации в цял свят. Накратко, Palantir продава инфраструктурата и инструментите, които позволяват на мощните институции да обединят разпръснатата информация, с която разполагат, и да действат въз основа на нея. Става дума за четири отделни, но допълващи се продукта: Gotham, Foundry, Apollo и AIP.

Gotham и Foundry са двете основни платформи на Palantir. Те са цялостни софтуерни системи, създадени да решават различни типове проблеми за различни клиенти. Gotham е карта, която визуализирса цялата информация като на длан. Тя е насочена предимно към правителствения сектор, разузнаването и правоприлагането. Foundry, от своя страна, е виртуален оперативен център, създаден за корпорации в области като производство, здравеопазване и логистика. В същото време AIP е AI асистентът, който позволява на вземащите решения да общуват с данните си на естествен език. Apollo пък е инфраструктурният слой, който свързва всички останали и се грижи софтуерът да е винаги актуализиран в цялата мрежа.

Gotham, който е често използван от разследващите органи, събира в едно разнообразни (законно придобити) източници на данни, да речем – досиета, телефонни записи, регистрационни номера на автомобили, геоданни и финансови трансакции, както и всякакви налични отворени данни – и подрежда всичко това в една прегледна картина “кой-какво-къде-кога”.

Приложения в реалния свят

Да си представим, че следователите са по петите на група за кражба на автомобили. Аналитикът събира последните доклади, данни от разпознати автомобилни номера, фактури от автосервизи и няколко телефона, които “светват” близо до местата на престъпленията. Gotham прави своята магия – визуализира карта на връзките: два гаража, оператор на пътна помощ, три устройства, които продължават да се появяват на инкриминиращи места в необичайни часове. Създава се правило: да се включи аларма, ако устройство А се появи близо до обществен паркинг след полунощ и бъде регистрирано плащане в гараж X. Така един месец работа на разследващите може да се сведе до един следобед. Това обяснява защо Gotham е толкова популярен, и използван, сред правоохранителните органи. Сред тях са полицията в Германия (проектът HessenDATA) и Дания (POL-INTEL – система на базата на Palantir, адаптирана за националната полиция). Със системата работеше и Европол до замяната ѝ през 2021 г.

Централата на „Европол“ в Хага, Нидерландия. Снимка: Wikimedia Commons

От своя страна Foundry, виртуалният оперативен център, може да улесни живота на институции за борба с бедствия, големи болници, логистични мрежи и т.н. Да си представим градско спешно отделение в зимна нощ. Положението е тежко – персоналът е претоварен, леглата са оскъдни, линейките чакат на опашка. Foundry показва в реално време заетостта на леглата в отделенията, графиците на персонала, очакваните резултати и очаквания прием на пациенти. Задайте му въпрос: „Как да обработим дванадесет пациента до сутринта?“ и той ще ви предложи план, ще го превърне в задачи, и ще проследи изпълнението им.

Подобна функционалност стои зад мащабния договор на NHS England (Националната здравна служба в Англия) с Palantir, сключен през 2023 г. за изграждането на т.нар. Federated Data Platform. Въвеждането му предизвика ожесточени дискусии, които продължават и до момента. От една страна се отчита висока ефективност и оперативни ползи, от друга има съмнения за прозрачността, управлението и общественото доверие при обработката на чувствителни пациентски данни.

AI-асистентът AIP позволява на хората да правят запитвания в реално време за текущи операции. Например: кои са най-проблемните пътища при снеговалежа тази вечер; кои са оптималните маршрути за опесъчаване според наличния автопарк и смените на работниците. На бойното поле залогът е много по-висок. Още през 2023 г. изпълнителният директор на Palantir Алекс Карп заяви (цитиран от Reuters), че софтуерът на компанията се използва от Украйна за целеуказване (набелязване на цели), чрез обединяване на данни от сензори и изображения. Това показва колко бързо една „ситуационна картина“, създадена с помощта на изкуствен интелект, се превръща в действие. Предимствата във военна обстановка са очевидни, но това, за съжаление важи и за етичните дилеми.

Защо институциите посягат към Palantir

Очевидно е защо платформите на Palantir са привлекателни за институциите. Един екран, който показва цялостната обстановка е по-добър от десетина отделни дисплея с разнородни данни. В същото време кризите награждават бързината и възможността за одит. Изваждането на данни от отделните ведомствени “силози” е полезно, защото разкрива модели, по които могат да бъдат взети решения и предприети действия.

Какъв е проблемът тогава?

Тъкмо качествата, които правят Palantir полезен, обясняват и защо е спорен. Лекотата, с която събира и интерпретира разпилени данни е както благословия, така и проклятие. Да започнем с вината по асоциация. Когато софтуерът позволява на разследващите да картографират всички свързани с някой заподозрян – приятели, колеги, съседи – може лесно да бъдат профилирани невинни хора, просто защото са близо до неправилния човек.

През 2023 г. Федералният конституционен съд на Германия отмени части от законите на Хесен и Хамбург, които позволяваха широко автоматизирано анализиране на вече съхранени лични данни. Съдът предупреди, че този вид инструменти не трябва да се превръщат в генерализиранo “тралене” за информация, вместо в строго целеви мерки, и при конкретна опасност. Съдиите определиха строги прагове, които да спрат “риболова на данни” на общо основание. Това съдебно решение не е насочено конкретно към Palantir, но определено бе “вдъхновено“ от него.

„Мръсни“ данни, „мръсни“ изводи

Налице е и проблемът с “мръсните” данни. Пример за това са историческите полицейски данни. Те показват къде полицията е избирала да проверява или претърсва. Това често се случва, да речем, с гета. Вкарайте това в системата за анализ на данни и моделите ще ви „докажат“, че въпросната зона е с висок риск. Съответно, там ще бъдат насочени повече патрули; ще бъдат регистрирани повече инциденти, и т.н. в самоизпълняваща се верига. Никой не е имунизиран срещу този проблем, но платформи като Gotham могат да го усилят, ако надзорът е слаб.

Тихо разширяване на целите

Друга опасност е пълзящото разширяване на целите. Една система, закупена „за пандемията“, може да се превърне в постоянна инфраструктура, ако не са предвидени строги срокове, ясни цели и публична отчетност. Именно това е сред основните възражения на медицинските специалисти срещу платформата Federated Data Platform на NHS (базирана на Palantir): те се тревожат, че неясните правомощия може да подкопаят доверието в системата, въпреки полезността на софтуера, който подобрява капацитета и ефективността.

Предоверяване на автоматизацията

Предоверяването на автоматизацията е по-ново явление, но е абсолютно реално. Ако например, AI асистент е изготвил план и заповед, човек може да ги одобри автоматично, просто защото изглеждат авторитетно. В полицейската дейност това може да доведе до претърсвания с недостатъчно основания. На война това съкращава „веригата на убиване“ (kill chain), което означава, че потенциално смъртоносни решения се вземат по-лесно i.

Маркетингът на AIP подчертава наличието на “човек в процеса” (human-in-the-loop). Този контрол обаче трябва да е смислен: въпрсният отговорен човек трябва да има време, подходящ контекст и реални правомощия да каже „не“, а не просто да сложи отметка в квадратче преди изпълнението.

Практически рискове

Има и практически рискове: такава е злоупотребата от вътрешни лица (вече се е случвало с платформи на Palantir), ако контролът на достъпа и одитирането са слаби. Налице е и проблемът с обвързването с един доставчик, при което критични работни процеси и чувствителни данни зависят от частна компания. Възникват въпроси за суверенитета, свързани с местонахождението на данните и юрисдикцията. Опитът на “Европол” – да приеме Gotham за оперативен анализ и визуализация, а след това да го замени, през 2021 г. – демонстрира както неустоимата привлекателност на платформата, така и неизбежният натиск за възвръщане на контрола.

Франция, ЕС и стратегическата автономия

След атентатите в Париж през 2015 г. френското вътрешно разузнаване DGSI (Direction générale de la Sécurité intérieure – Главна дирекция за вътрешна сигурност) сключва договор с Palantir. Това предизвика продължаващ и в момента дебат за нуждата от местна алтернатива. Това е въпрос на стратегическа автономия, която, сама по себе си, в момента е изключително важна тема за ЕС. 

“Завладяването на Европа”

Междувременно журналистите пишат за това как “Palantir завладява Европа” (Euractiv). Факт е, че компанията се представя добре в обществения сектор на Стария континент. В рамките на последното десетилетие Palantir превърна единични внедрявания в многосекторно присъствие: полиция и разузнаване (Хесен/HessenDATA; Дания/POL-INTEL), здравеопазване (NHS England), агенции на ЕС, като (Европол и Европейската агенция за авиационна безопасност), както и отбрана (Министерството на отбраната на Обединеното кралство). Само публично обявените суми по тези сделки са за над 540 млн. долара, т.е. реално са значително повече. Най-скорошният успех на компанията стана фскт на 14 април 2025 г. когато НАТО обяви, че придобива Maven Smart System (MSS NATO) от Palantir за нуждите на обединеното командване на съюза. MSS е специализирана военна версия на технологиите, разработвани от Palantir – платформа за оперативно планиране и вземане на решения, която обединява сензорни и разузнавателни потоци в обща картина, ускорява анализa на бойната среда,  подпомага приоритизацията на цели и управлението на ключови логистични потоци.

Между свободата и сигурността

В крайна сметка, платформите на Palantir правят това, което обещават: превръщат фрагментацията на данните в цялостна картина и могат да превърнат институционалната парализа в действие. При бедствия и войни това може да спести време, пари и човешки животи. Същата сила обаче може да профилира невинни хора, да затвърждава предразсъдъци, да нормализира тоталното наблюдение и да заключи публичните услуги в частна “черна кутия”, ако липсват ясни правила. В тази ситуация задачата на гражданското общество не е да скандира „за“ или „против“ за една или друга търговска марка, а да наложи яснота: какъв точно проблем решаваме, с какви данни, според кой закон, с какви ограничения; и как да излезем от ситуацията, ако доверието се наруши? Без тази дисциплина палантирът, рано или късно, ще се превърне в окото на Саурон.