پالانتیر؛ هوش مصنوعی مرگبار و شریک کشتار کودکان میناب / پشت پرده چیست؟

در دنیای امروز با پیشرفت‌های سریع علمی، مرز میان فیلم‌های علمی-تخیلی و میدان‌های نبرد واقعی در حال محو شدن است.

جنگ‌ها در قرن بیست و یکم دیگر با دود باروت، حرکت تانک‌ها و استراتژی‌های سنتی فرماندهان بر روی نقشه‌های کاغذی اداره نمی‌شوند؛ بلکه این کدهای رایانه‌ای، الگوریتم‌های یادگیری ماشین و داده‌های کلان هستند که نبض میدان جنگ را در دست گرفته‌اند. در قلب این انقلاب خاموش و ترسناک، نام یک شرکت فناوری آمریکایی به نام پالانتیر (Palantir Technologies) بیش از هر نام دیگری به گوش می‌رسد؛ شرکتی که نرم‌افزارهای دفاعی و امنیتی‌اش، مغز متفکر ارتش آمریکا و پنتاگون را در اختیار گرفته و جنجال‌های زیادی در محافل حقوق بشری و رسانه‌ای جهان به پا کرده است.

پالانتیر چیست و متعلق به کدام شرکت است؟

پالانتیر یک شرکت نرم‌افزاری آمریکایی است که در سال ۲۰۰۳ توسط چهره‌های سرشناس دنیای فناوری از جمله پیتر تیل و الکس کارپ راههای موفقیت در سیلیکون‌ولی آمریکا تأسیس شد. نام این شرکت از گوی‌های جادویی و همه‌چیزدان داستان «ارباب حلقه‌ها» گرفته شده است؛ گوی‌هایی که به صاحبانش اجازه می‌دادند همه‌چیز را در سراسر جهان ببینند و از تحرکات دشمن باخبر شوند؛ نامی که به خوبی هدف این شرکت را نشان می‌دهد: «دیدن و تحلیل همه‌چیز در هر نقطه‌ای از جهان.»

در سال‌های ابتدایی، پالانتیر بیشتر بر تحلیل داده‌های اطلاعاتی برای مبارزه با تروریسم و نهادهای مالی متمرکز بود؛ اما اخیراً به بازیگر بی‌رقیب تکنولوژی نظامی تبدیل شده است. فناوری‌های این شرکت به گونه‌ای طراحی شده‌اند که می‌توانند میلیاردها داده آشفته و پراکنده از حسگرهای مختلف را در یک بستر یکپارچه جمع‌آوری کرده و به خروجی‌های استراتژیکی برای کشتارگاه‌های مدرن جنگی تبدیل نمایند.

محصولات کلیدی: از پلتفرم گوثام تا سیستم هوشمند موین

برای آنکه بهتر بتوان وسعت نفوذ این شرکت را درک کرد، به طور مختصر دو ابزار اصلی آن یعنی گوثام (Gotham) و سیستم موین (Project Maven) را بررسی می‌کنیم:

پلتفرم گوثام (Gotham): این نرم‌افزار به عنوان سیستم‌عامل تصمیم‌گیری جهانی، قادر است تا داده‌های به دست آمده از پهپادها، تصاویر ماهواره‌ای، شنودهای الکترونیکی، دوربین‌های حرارتی و گزارش‌های میدانی را به صورت لحظه‌ای با هم ترکیب کند. در واقع این پلتفرم، محیطی سه‌بعدی و فراگیر ایجاد می‌کند که فرماندهان نظامی بتوانند مثل یک بازی استراتژیک، تمام جزئیات میدان نبرد را زیر نظر داشته باشند.

پروژه موین و رابط کاربری (MSS): پروژه موین مغز متفکر هوش مصنوعی پنتاگون است که تکنولوژی‌های پالانتیر اساس آن را تشکیل می‌دهند. در این رابط کاربری که به نام Maven Smart System شناخته می‌شود، سیستم با کمک بینایی ماشین، اهداف مشکوک را با کادرهای زردرنگ (به عنوان اهداف بالقوه) و نیروهای خودی یا مناطق ممنوعه را با کادرهای آبی‌رنگ تفکیک می‌کند.

از تحلیل انسانی تا پردازش هوش مصنوعی پیشرفته

تاریخچه کاربرد هوش مصنوعی در پالانتیر به چند نسل تقسیم می‌شود. در دو دهه اول، این سیستم‌ها بیشتر به پایگاه‌های داده ساختاریافته و جستجوی کدهای سنتی متکی بودند.

اما با تزریق مدل‌های زبانی بزرگ (LLM) و تکنولوژی‌های پیشرفته هوش مصنوعی به این ساختار، تحولات بزرگی در این راستا رخ داد؛ مثلاً مشارکت پالانتیر با شرکت‌هایی مثل آنتروپیک و به کارگیری مدل‌های پیشرفته‌ای مثل Claude در سیستم‌های نظامی پنتاگون، به منزله انقلاب عظیمی در سرعت تصمیم‌گیری بود.

تا قبل از این، تحلیلگران انسانی مجبور بودند تا ساعت‌ها به بازبینی ویدیوهای ضبط شده توسط پهپادها بپردازند؛ بدین ترتیب تنها تعداد محدودی هدف (کمتر از ۱۰۰ مورد در روز) شناسایی می‌شد؛ اما با خودکارسازی فرآیندها توسط پالانتیر و بهره‌گیری از هوش مصنوعی مولد، نرخ شناسایی و پیشنهاد اهداف به چند هزار هدف در روز افزایش یافت. طبق گفته مقامات ارتش آمریکا، این فناوری وابستگی به افسران اطلاعاتیِ انسانی را به شدت کاهش داده و فرآیند زمان‌بر «از حسگر تا سلاح» (Sensor-to-Shooter) را به چند ثانیه رسانده است.

آیا این فناوری در دسترس عموم مردم است؟

به هیچ وجه! پالانتیر و ابزارهای دفاعی‌اش به هیچ عنوان محصولات مصرفی یا تجاری و برای مصرف عموم مردم نیستند. این نرم‌افزارها کاملاً محرمانه، سازمانی و انحصاری‌اند و فقط به نهادهای دولتی، وزارت دفاع آمریکا و متحدان استراتژیکشان فروخته می‌شوند.

در نتیجه هیچ شهروند عادی یا شرکت تجاری معمولی به این نسخه از سیستم‌های هدایت جنگی دسترسی ندارد. سرمایه‌گذاری سنگین دولت آمریکا روی این شرکت نشان می‌دهد که پالانتیر بیش از آنکه یک شرکت نرم‌افزاری تجاری باشد، بازوی اجرایی و سایبری ماشین جنگی آن‌هاست.

چرا پالانتیر جنجالی و انتقاد برانگیز شده است؟

در این شرایط و با توجه به قدرت بالای این هوش مصنوعی در تصمیم‌گیری‌های نظامی، نگرانی‌های اخلاقی و حقوقی زیادی ایجاد شده است.

منتقدان و کارشناسان حقوق بشر هشدار داده‌اند که سپردن فرآیند انتخاب اهداف نظامی به الگوریتم‌های رایانه‌ای، خطر خطاهای محاسباتی و فجایع انسانی را به شدت بالا می‌برد. وقتی سرعت پردازش به هزاران هدف در روز می‌رسد و تصمیم‌گیری اصلی بر عهده هوش مصنوعی است، نظارت دقیق انسانی عملاً به حاشیه می‌رود.

در این بین، گزارش‌های متعددی در خصوص خطاهای سیستم‌های هدایت خودکار در درگیری‌های مختلف و تلفات سنگین غیرنظامیان منتشر شده که نشان می‌دهد اتکای کورکورانه به این الگوریتم‌ها، استفاده از داده‌های کهنه و نقص در پردازش حسگرها، چندین بار به فجایع انسانی هولناکی منجر شده که از جمله آن می‌توان به فاجعه دردناک بمباران مدرسه میناب و تلفات گسترده غیرنظامیان اشاره کرد. به گفته منتقدان تمام اینها، بار دیگر اثبات می‌کنند که خطاهای تشخیص و «توهم دقت» در الگوریتم‌های پالانتیر، مستقیماً به بهای جان انسان‌های بی‌گناه تمام می‌شود و تلاش پنتاگون برای توجیه این فجایع هرگز نمی‌تواند روی کارنامه سیاه ماشین جنگی خودکارشان سرپوش بگذارد.

بر اساس گزارش‌های تحقیقی ناظران پنتاگون که برخی رسانه‌ها از جمله گیزمودو و تایمز آیندیا به آن پرداخته‌اند و همچنین تحلیل‌های حقوقی مؤسساتی مثل لیبر در وست‌پوینت، ادعای «دقت مطلق» در زنجیره‌های کشتار مجهز به هوش مصنوعی پالانتیر فقط یک سراب خطرناک است.

خط قرمز بزرگ جهان مدرن این است که «اختیار مرگ و زندگی انسان‌ها» به کدهای صفر و یک سپرده شده و اخلاقیات در جنگ قربانی سرعت و کارایی تکنولوژی شود.