هوش مصنوعی دیگر فقط یک فناوری نیست؛ چه کسی باید مراقب آن باشد؟
چند سال پیش وقتی درباره هوش مصنوعی صحبت می‌کردیم، بیشتر سؤال‌ها حول یک موضوع می‌چرخید:
هوش مصنوعی قرار است چه کارهایی برای ما انجام دهد؟
امروز اما سؤال آرام‌آرام دارد تغییر می‌کند.
دیگر فقط نمی‌پرسیم:
«هوش مصنوعی چقدر قدرتمند شده؟»
می‌پرسیم:
«چه کسی قرار است مراقب این قدرت باشد؟»
این سؤال شاید یکی از مهم‌ترین سؤال‌های عصر جدید فناوری باشد.
اتفاقی که همین روزها در اروپا در حال رخ دادن است، دقیقاً از همین جنس است.
از ۲ اوت ۲۰۲۶ مرحله جدیدی از قانون هوش مصنوعی اتحادیه اروپا اجرایی شده و چارچوب نظارتی این اتحادیه وارد مرحله جدی‌تری شده است؛ مرحله‌ای که می‌تواند برای شرکت‌های بزرگ هوش مصنوعی، از جمله شرکت‌های فعال در مدل‌های عمومی و قدرتمند، پیامدهای واقعی داشته باشد.
اما شاید خود قانون، مهم‌ترین قسمت ماجرا نباشد.
مهم‌تر از قانون، تغییری است که در نگاه انسان به هوش مصنوعی اتفاق افتاده است.
زمانی که از هیجان عبور می‌کنیم
در ابتدای موج جدید هوش مصنوعی، همه‌چیز هیجان‌انگیز بود.
تولید متن.
ساخت تصویر.
تولید ویدئو.
برنامه‌نویسی.
تحلیل اطلاعات.
ساخت صدا.
ترجمه.
و حالا عامل‌هایی که می‌توانند مجموعه‌ای از کارها را با دخالت بسیار کمتر انسان انجام دهند.
ما مدام درباره سرعت پیشرفت فناوری صحبت کردیم.
اما شاید کمتر درباره یک موضوع فکر کردیم:
هرچه یک فناوری قدرتمندتر می‌شود، اشتباه آن هم می‌تواند قدرتمندتر شود.
اگر یک ابزار ساده اشتباه کند، شاید فقط چند دقیقه از وقت ما تلف شود.
اما اگر یک سیستم بسیار قدرتمند در مقیاس وسیع اشتباه کند، تصمیم اشتباه آن می‌تواند روی هزاران یا میلیون‌ها نفر اثر بگذارد.
اینجاست که داستان از «فناوری جذاب» وارد قلمرو «مسئولیت» می‌شود.
مسئله فقط این نیست که AI چه می‌تواند بکند
به نظرم یکی از اشتباهات ما این است که قدرت یک فناوری را فقط با قابلیت‌هایش اندازه می‌گیریم.
می‌پرسیم:
چقدر سریع است؟
چقدر باهوش است؟
چقدر خوب می‌نویسد؟
چقدر خوب برنامه‌نویسی می‌کند؟
چقدر خوب تصویر می‌سازد؟
اما یک سؤال دیگر هم باید کنار همه این‌ها قرار بگیرد:
چقدر قابل اعتماد است؟
و حتی بعد از آن:
اگر اشتباه کرد، چه کسی مسئول است؟
این سؤال‌ها شاید به اندازه ساخت یک مدل جدید هیجان‌انگیز نباشند.
اما برای آینده انسان بسیار مهم‌ترند.
اروپا دقیقاً چه چیزی را تغییر داده است؟
اتحادیه اروپا با قانون AI تلاش کرده استفاده از هوش مصنوعی را بر اساس میزان خطر آن تنظیم کند.
حالا با ورود مرحله جدید این قانون، نظارت و اجرای مقررات درباره برخی سیستم‌های قدرتمندتر جدی‌تر شده است.
موضوع فقط این نیست که شرکت‌ها یک سری فرم و سند پر کنند.
بحث اصلی این است که توسعه‌دهندگان سیستم‌های هوش مصنوعی باید درباره خطرات، شفافیت، ایمنی و نحوه عملکرد سیستم‌هایشان مسئولیت بیشتری بپذیرند.
حتی قدرت نظارتی و امکان اعمال جریمه نیز وارد معادله شده است.
و این اتفاق یک پیام مهم دارد:
دوران «هرچه می‌توانیم بسازیم، بعداً درباره پیامدهایش فکر می‌کنیم» در حال سخت‌تر شدن است.
اما یک سؤال بزرگ‌تر وجود دارد
فرض کنیم قانون وجود دارد.
فرض کنیم نهاد نظارتی هم وجود دارد.
فرض کنیم شرکت‌ها هم موظف به رعایت قوانین شوند.
آیا مسئله حل می‌شود؟
نه لزوماً.
چون فناوری با سرعتی بسیار زیاد حرکت می‌کند و قانون معمولاً با سرعت بسیار کمتری نوشته، تصویب و اجرا می‌شود.
ممکن است امروز برای یک فناوری قانون بنویسیم و فردا فناوری جدیدی ظهور کند که اصلاً هنگام نوشتن قانون وجود نداشته است.
پس شاید مسئله فقط قانون‌گذاری نباشد.
ما به یک فرهنگ مسئولیت‌پذیری در برابر فناوری نیاز داریم.
از شرکت سازنده گرفته تا دولت، کسب‌وکار و حتی کاربر معمولی.
هوش مصنوعی اگر اشتباه کند، چه کسی پاسخ می‌دهد؟
تصور کنید یک شرکت تصمیم بگیرد بخشی از فرآیند استخدام خود را به هوش مصنوعی بسپارد.
سیستم رزومه‌ها را بررسی می‌کند.
افراد را رتبه‌بندی می‌کند.
و حتی شاید پیشنهاد دهد چه کسی برای استخدام مناسب‌تر است.
اگر سیستم اشتباه کند چه؟
اگر یک فرد شایسته حذف شود چه؟
اگر الگوریتم نسبت به گروهی از افراد رفتار ناعادلانه داشته باشد چه؟
مسئولیت با چه کسی است؟
شرکت سازنده؟
شرکت استفاده‌کننده؟
برنامه‌نویس؟
مدیر؟
یا خود هوش مصنوعی؟
جواب آخر تقریباً روشن است:
هوش مصنوعی مسئولیت اخلاقی و حقوقی را به جای انسان از بین نمی‌برد.
در نهایت انسان باید پاسخ‌گو باشد.
خطر واقعی شاید خود AI نباشد
من فکر می‌کنم باید در اینجا کمی متفاوت نگاه کنیم.
شاید بزرگ‌ترین خطر هوش مصنوعی این نباشد که روزی بیش از حد باهوش شود.
شاید یکی از خطرهای جدی‌تر این باشد که انسان‌ها بیش از حد به آن اعتماد کنند.
اگر یک انسان اشتباه کند، معمولاً می‌توانیم بگوییم:
«انسان است، اشتباه کرده.»
اما وقتی یک سیستم هوشمند با اطمینان پاسخ می‌دهد، خیلی راحت ممکن است تصور کنیم حتماً درست می‌گوید.
این خطرناک است.
چون هوش مصنوعی می‌تواند بسیار متقاعدکننده باشد و در عین حال اشتباه کند.
بنابراین شاید مهارت آینده فقط «کار کردن با AI» نباشد.
مهارت مهم‌تر، توانایی تشخیص زمانی است که نباید به AI اعتماد کنیم.
این اتفاق چه ربطی به من و تو دارد؟
شاید بگوییم:
«این قوانین برای شرکت‌های بزرگ است. چه ربطی به من دارد؟»
اما هوش مصنوعی فقط در آزمایشگاه شرکت‌های بزرگ زندگی نمی‌کند.
همین حالا در تولید محتوا، طراحی، بازاریابی، برنامه‌نویسی، آموزش، فروش، پشتیبانی مشتری و هزاران کسب‌وکار کوچک و بزرگ وارد شده است.
یعنی هرکدام از ما ممکن است هم‌زمان:
کاربر AI، سازنده محتوا با AI، صاحب کسب‌وکار و حتی تصمیم‌گیرنده با کمک AI باشیم.
پس مسئله مسئولیت فقط مربوط به شرکت‌های چند میلیارد دلاری نیست.
اگر من از هوش مصنوعی برای تصمیمی درباره مشتری خود استفاده کنم، من هم بخشی از این زنجیره مسئولیت هستم.
اگر از AI برای تولید اطلاعات استفاده کنم، مسئولیت بررسی آن همچنان با من است.
اگر از آن برای تصمیم‌گیری درباره یک انسان استفاده کنم، باید بدانم که خروجی یک ماشین الزاماً حقیقت نیست.
شاید باید یک سؤال جدید یاد بگیریم
ما سال‌ها یاد گرفته‌ایم از خودمان بپرسیم:
«آیا می‌توانم این کار را با هوش مصنوعی انجام بدهم؟»
شاید از امروز باید یک سؤال دیگر هم کنار آن بگذاریم:
«آیا باید این کار را به هوش مصنوعی بسپارم؟»
این دو سؤال شبیه هم نیستند.
اولی درباره توانایی فناوری است.
دومی درباره قضاوت انسان.
و شاید آینده متعلق به کسانی باشد که تفاوت این دو را می‌فهمند.
آینده متعلق به انسان یا ماشین؟
این سؤال را زیاد شنیده‌ایم.
اما شاید سؤال اشتباهی باشد.
قرار نیست انسان و ماشین حتماً در یک مسابقه باشند.
مسئله مهم‌تر این است که:
انسان در کنار ماشین چه چیزی باقی می‌گذارد که نباید از دست بدهد؟
قضاوت.
مسئولیت.
همدلی.
اخلاق.
توانایی گفتن «نه».
توانایی شک کردن.
توانایی پذیرفتن اشتباه.
و مهم‌تر از همه:
توانایی تصمیم گرفتن در جایی که پاسخ درست فقط با محاسبه به دست نمی‌آید.
شاید این جنجال، اتفاقاً اتفاق خوبی باشد
من از اینکه درباره هوش مصنوعی بحث و اختلاف نظر وجود دارد، لزوماً نگران نیستم.
اتفاقاً شاید این نشانه خوبی باشد.
فناوری زمانی خطرناک‌تر می‌شود که همه بدون سؤال از آن استقبال کنند.
وقتی جامعه سؤال می‌پرسد، قانون‌گذار حساس می‌شود، شرکت‌ها مجبور به توضیح می‌شوند و کاربران آگاه‌تر می‌شوند.
این یعنی فناوری فقط توسط سازندگانش تعریف نمی‌شود.
جامعه هم باید درباره آینده فناوری حق سؤال کردن داشته باشد.
ما در آغاز یک تغییر بزرگ هستیم
شاید چند سال دیگر، اتفاقی که امروز درباره‌اش بحث می‌کنیم کاملاً عادی شود.
همان‌طور که امروز استفاده از اینترنت برایمان عادی است.
اما تاریخ فناوری بارها نشان داده که چیزهایی که در ابتدا کوچک به نظر می‌رسند، بعدها ساختار زندگی انسان را تغییر می‌دهند.
هوش مصنوعی هم احتمالاً از همین جنس است.
بنابراین شاید بهتر باشد نه از آن بترسیم و نه آن را پرستش کنیم.
نه آن را دشمن انسان بدانیم و نه ناجی انسان.
بلکه آن را چیزی بدانیم که قدرت بسیار زیادی دارد و به همان اندازه، مسئولیت بسیار زیادی می‌طلبد.
حرف آخر
خبرهای مربوط به قانون‌گذاری هوش مصنوعی شاید در ظاهر درباره شرکت‌ها، دولت‌ها و قوانین باشند.
اما در لایه عمیق‌تر، درباره خود ما هستند.
درباره اینکه در برابر قدرتی که خودمان ساخته‌ایم، چقدر مسئولانه رفتار می‌کنیم.
ما همیشه از خودمان می‌پرسیم:
«هوش مصنوعی چه آینده‌ای برای ما می‌سازد؟»
شاید بهتر باشد یک بار سؤال را برعکس کنیم:
«ما با هوش مصنوعی چه آینده‌ای برای خودمان می‌سازیم؟»
چون فناوری به‌تنهایی آینده را تعیین نمی‌کند.
انتخاب‌های انسان‌ها تعیین می‌کنند که یک ابزار قدرتمند، در نهایت تبدیل به فرصتی برای رشد شود یا ابزاری برای افزایش اشتباهات و بی‌مسئولیتی.
شاید آینده‌ای که از آن می‌ترسیم، الزاماً توسط ماشین‌ها ساخته نشود.
شاید بخشی از آن را انسان‌هایی بسازند که قدرت زیادی در اختیار دارند، اما مسئولیت آن قدرت را جدی نگرفته‌اند.
و شاید مهم‌ترین مهارت عصر هوش مصنوعی این نباشد که بدانیم ماشین‌ها چقدر باهوش شده‌اند.
بلکه این باشد که بدانیم:
کجا باید از هوش مصنوعی استفاده کنیم، کجا باید به آن شک کنیم، و کجا هنوز باید خودمان تصمیم بگیریم.
DigiBenis
آینده متعلق به کسانی نیست که فقط از هوش مصنوعی استفاده می‌کنند؛ متعلق به کسانی است که می‌دانند با این قدرت چگونه مسئولانه زندگی کنند.
DigiBenis
فناوری می‌تواند هوشمندتر شود؛ اما آینده زمانی بهتر می‌شود که انسان هم آگاه‌تر شود.