نظریه انتقادی هوش مصنوعی؛ وقتی الگوریتم‌ها به جای ما تصمیم می‌گیرند
توضیح کوتاه
نگاهی به کتاب «نظریه انتقادی هوش مصنوعی» دنیل اینِراریتی و پرسش‌های بنیادین درباره قدرت الگوریتم‌ها، حریم خصوصی، دموکراسی و خطر واگذاری تصمیم‌های انسانی به ماشین‌ها.
نظریه انتقادی هوش مصنوعی؛ وقتی الگوریتم‌ها به جای ما تصمیم می‌گیرند
آیا تا به حال به این فکر کرده‌اید که وقتی یک الگوریتم تصمیم می‌گیرد چه کسی وام بگیرد، چه کسی استخدام شود یا چه کسی به عنوان «خطر» طبقه‌بندی شود، دقیقاً چه اتفاقی در حال وقوع است؟ چه کسی این تصمیم را گرفته؟ بر چه مبنایی؟ و مهم‌تر از همه، چه کسی در قبال آن پاسخ‌گو است؟
کتاب «نظریه انتقادی هوش مصنوعی» (A Critical Theory of Artificial Intelligence) نوشته دنیل اینِراریتی، فیلسوف سیاسی و اجتماعی اسپانیایی و استاد دانشگاه سرزمین باسک، که در سال ۲۰۲۵ منتشر شده و موفق به دریافت جایزه سوم مقالات فلسفی اوخنیو تریاس شده است، دقیقاً به همین پرسش‌ها می‌پردازد. این کتاب با بیش از ۵۴۰ صفحه و بیش از ۷۵ صفحه کتاب‌شناسی، تحلیلی جامع، نظام‌مند و در دسترس از هوش مصنوعی ارائه می‌دهد؛ نه به‌عنوان یک رویداد صرفاً فناورانه، بلکه به‌عنوان یک چالش سیاسی، اخلاقی و معرفت‌شناختی.
📖 کتابی که فراتر از دوگانه «امید» و «اضطراب» می‌رود
اینِراریتی کتاب خود را در فضایی می‌نویسد که به تعبیر خودش، میان «رؤیاهای فناورانه ساده‌لوحانه» و «بدبینی هولناک فناورستیز» گرفتار شده است. او تلاش می‌کند از این دو قطب فراتر رود و با «دقت نظری، تأمل اخلاقی و حساسیت سیاسی عملی» به هوش مصنوعی نگاه کند. کتاب به سه بخش روشن تقسیم شده است: نقد عقل الگوریتمی، کاربردشناسی عقل الگوریتمی و فلسفه سیاسی عقل الگوریتمی.
💡 چرا هوش مصنوعی «هوش» انسانی نیست؟
بخش اول کتاب به یک پرسش بنیادین می‌پردازد: هوش مصنوعی چه نوع هوشی است و چه تفاوتی با هوش انسانی دارد؟ اینِراریتی هفت ویژگی شناخت انسانی را برمی‌شمارد که به احتمال زیاد در سیستم‌های مصنوعی فعلی غایب‌اند: عقل سلیم، بازتابندگی، دانش ضمنی، عدم‌دقت پیش‌بینانه، یادگیری انعطاف‌پذیر، صرفه‌جویی در یادگیری و شناخت بدنمند.
او این تفاوت‌ها را با مثال‌های ملموس روشن می‌کند: مغز انسان با حدود ۲۰ وات انرژی کار می‌کند، در حالی که سیستم‌های هوش مصنوعی به زیرساخت‌های عظیم وابسته‌اند. یک کودک از طریق بازی و لذت و بدون دستورالعمل صریح یاد می‌گیرد، در حالی که هوش مصنوعی به آموزش در مقیاس بزرگ نیاز دارد. انسان با داده‌های حداقلی و به لطف درک زمینه‌ای استدلال می‌کند، در حالی که هوش مصنوعی به مجموعه‌داده‌های عظیم تکیه دارد.
اینِراریتی همچنین میان خلاقیت انسانی—که حتی با الهام از سنت، نوآوری اصیل می‌آفریند—و خلاقیت هوش مصنوعی—که عمدتاً بر بازترکیب الگوریتمی استوار است—تمایز می‌گذارد.
🔒 حریم خصوصی به‌مثابه یک کالای عمومی
یکی از نوآورانه‌ترین ایده‌های کتاب، بازتعریف حریم خصوصی به‌عنوان یک کالای عمومی است، نه صرفاً یک امر فردی یا قراردادی. اینِراریتی چارچوب «قراردادگرایانه» مقررات عمومی حفاظت از داده اروپا (GDPR) را نقد می‌کند: این تصور که کاربران هنگام کلیک روی «قوانین را خوانده‌ام و می‌پذیرم» آزادانه رضایت می‌دهند، یک داستان خیالی است. در واقعیت، کاربران نمی‌توانند بدون از دست دادن دسترسی به خدمات ضروری از این شرایط خارج شوند، به‌ندرت شرایط را درک می‌کنند و از استفاده‌های ثانویه از داده‌های خود آگاه نیستند.
به باور او، پارادایم غالب—داده به‌عنوان کالایی قابل‌فروش—داده را به «قیمت» تقلیل می‌دهد، اما به «ارزش» آن توجه نمی‌کند.
🏛️ وقتی الگوریتم‌ها وارد سیاست می‌شوند
بخش سوم کتاب، که شاید مهم‌ترین بخش آن باشد، به تأثیر دیجیتال‌سازی و اتوماسیون بر سیاست دموکراتیک می‌پردازد. پرسش محوری این است: ورود سیستم‌های تصمیم‌گیری خودکار (ADS) به فرایندهای حکومتی برای دموکراسی چه معنایی دارد؟
اینِراریتی به نقد «پدرسالاری الگوریتمی» می‌پردازد؛ سیستمی که ترجیحات ما را پیش‌بینی و شکل می‌دهد و ظرفیت ما را برای غافلگیری، تغییر و خودتعیینی کاهش می‌دهد. شهروندان در خطر تبدیل شدن به دریافت‌کنندگان منفعل امیال پیش‌بینی‌شده توسط الگوریتم هستند.
او همچنین به مسئله واگذاری (Delegation) می‌پردازد: مدرنیته اسطوره «قرارداد اجتماعی» را ساخت که در آن شهروندان بخشی از قدرت خود را به‌طور عقلانی واگذار می‌کنند. اما در عمل، این واگذاری اکنون به نهادها، کارشناسان، فناوری‌ها و الگوریتم‌ها نیز گسترش یافته است. پرسش کلیدی این است: چه مقدار واگذاری در یک دموکراسی مشروع است و چگونه می‌توان کنترل معنادار شهروندی را بدون تسلیم شدن به توهم «کنترل مطلق» حفظ کرد؟
🇮🇷 چرا این کتاب برای مخاطب ایرانی مهم است؟
مسئله «واگذاری تصمیم به الگوریتم‌ها» و «پدرسالاری الگوریتمی» محدود به اروپا یا آمریکا نیست. در ایران نیز، از سیستم‌های رتبه‌بندی اعتباری گرفته تا الگوریتم‌های فیلترینگ و تخصیص منابع، به‌تدریج در حال شکل‌گیری است. پرسش اینِراریتی درباره مشروعیت و پاسخ‌گویی این سیستم‌ها، برای هر جامعه‌ای که به سمت حکمرانی دیجیتال حرکت می‌کند، حیاتی است.
✍️ سه زاویه برای نوشتن درباره این کتاب
زاویه اول: فلسفی-سیاسی
«از قرارداد اجتماعی تا قرارداد الگوریتمی: آیا می‌توان تصمیم‌گیری ماشین را مشروع دانست؟». این زاویه بر بخش سوم کتاب تمرکز می‌کند و پرسش واگذاری و مشروعیت را با نظریه‌های دموکراتیک معاصر پیوند می‌زند.
زاویه دوم: حقوقی-تطبیقی
«حریم خصوصی به‌مثابه کالای عمومی: نقد اینِراریتی بر پارادایم رضایت و دلالت‌های آن برای حقوق داده در ایران». این زاویه ایده نوآورانه کتاب درباره حریم خصوصی را با چارچوب حقوقی ایران مقایسه می‌کند.
زاویه سوم: معرفت‌شناختی
«آنچه الگوریتم‌ها نمی‌توانند بدانند: بازخوانی هفت ویژگی شناخت انسانی اینِراریتی در پرتو فلسفه ذهن معاصر». این زاویه بر بخش اول کتاب تمرکز دارد و نشان می‌دهد چرا هوش مصنوعی، به رغم پیشرفت‌های خیره‌کننده، هنوز فاصله بنیادینی با شناخت انسانی دارد.
🌐 وضعیت ترجمه فارسی
در زمان نگارش این متن، ترجمه فارسی معتبری برای این کتاب (منتشرشده در ۲۰۲۵) یافت نشد. نسخه اصلی اسپانیایی (Una teoría crítica de la inteligencia artificial) و ترجمه انگلیسی آن در دسترس است.
پرسش‌های متداول
آیا هوش مصنوعی می‌تواند بی‌طرف باشد؟
اینِراریتی استدلال می‌کند که بی‌طرفی الگوریتمی یک اسطوره است. داده‌ها هرگز خودشان صحبت نمی‌کنند؛ آن‌ها به تفسیر انسانی نیاز دارند و انتخاب و ساختاردهی داده‌ها همیشه بازتاب انتخاب‌های هنجاری است.
آیا حریم خصوصی فقط یک مسئله فردی است؟
خیر. یکی از ایده‌های محوری کتاب این است که حریم خصوصی باید به‌عنوان یک کالای عمومی درک شود، نه صرفاً یک قرارداد فردی. حفاظت از داده‌ها برای سلامت دموکراسی و شهروندی ضروری است.
آیا واگذاری تصمیم به الگوریتم‌ها همیشه بد است؟
اینِراریتی مخالف مطلق واگذاری نیست. او استدلال می‌کند که دموکراسی به کنترل نیاز دارد، اما نه لزوماً کنترل مستقیم یا فوری. آنچه اهمیت دارد، وجود تأمل جمعی است که بتواند استفاده از الگوریتم‌ها را هدایت کند و در عین حال استقلال انسانی و مشروعیت دموکراتیک را حفظ نماید.
سخن پایانی؛ انسان، تصمیم‌گیرنده نهایی
شاید مهم‌ترین درس کتاب این باشد که هوش مصنوعی، به رغم توانایی‌های خیره‌کننده‌اش در تحلیل و پیش‌بینی، نمی‌تواند جایگزین قضاوت انسانی در موقعیت‌های نامطمئن شود. انسان‌ها—هرچند کندتر—بهتر می‌توانند در شرایط عدم‌قطعیت تصمیم بگیرند و محیط زیسته خود را تفسیر کنند. دموکراسی برتری خود را نه از نظر معرفتی (اینکه بهتر تصمیم می‌گیرد)، بلکه از نظر تصمیم‌گیری نشان می‌دهد: این توانایی که شهروندان با هم تصمیم بگیرند.
پرسش نهایی این نیست که چگونه الگوریتم‌ها را از زندگی خود حذف کنیم—که غیرممکن است—بلکه این است که چگونه اطمینان حاصل کنیم که آن‌ها در خدمت انسان باقی می‌مانند، نه بر فراز او.
اندیشه پرواز می‌کند، فردا را می‌سازد.