وقتی انسان دیگر فکر نمی‌کند؛ از هانا آرنت تا عصر هوش مصنوعی
در جهانی که هر روز فناوری قدرتمندتر می‌شود، شاید یکی از مهم‌ترین پرسش‌ها این نباشد که هوش مصنوعی چه کارهایی می‌تواند انجام دهد؛ بلکه این باشد که انسان در آینده چه کارهایی را دیگر خودش انجام نخواهد داد.
این پرسش ما را به اندیشه‌های هانا آرنت، مارتین هایدگر و کارل یاسپرس می‌رساند؛ سه متفکری که هرکدام از زاویه‌ای متفاوت درباره انسان، تفکر، آزادی، مسئولیت و زندگی در جهان مدرن اندیشیدند.
امروز، دهه‌ها پس از مرگ آنها، بخشی از پرسش‌هایشان دوباره زنده شده است؛ این بار در برابر صفحه‌ای که می‌تواند برای ما بنویسد، تحلیل کند، پیشنهاد بدهد، تصمیم‌ها را مقایسه کند و حتی بخشی از کارهایی را که پیش‌تر به نیروی انسانی نیاز داشتند، انجام دهد.
هانا آرنت؛ مسئله فقط شر نیست، مسئله «فکر نکردن» است
هانا آرنت بیشتر به دلیل مفهوم مشهور «ابتذال شر» شناخته می‌شود.
او در جریان گزارش محاکمه آدولف آیشمن، یکی از مسئولان رژیم نازی، با انسانی مواجه شد که لزوماً چهره یک هیولای افسانه‌ای را نداشت. آیشمن خود را فردی نشان می‌داد که وظایفش را انجام داده و دستورها را اجرا کرده است.
آرنت از این مسئله به یک پرسش عمیق‌تر رسید:
آیا ممکن است انسان بدون آنکه خود را شرور بداند، دست به اعمال شرورانه بزند؛ فقط به این دلیل که دیگر درباره کاری که انجام می‌دهد، عمیقاً فکر نمی‌کند؟
«ابتذال شر» به معنای کوچک بودن شر نیست. اتفاقاً مسئله برعکس است؛ آرنت نشان می‌دهد که اعمال بسیار خطرناک گاهی می‌توانند از مسیر انسان‌هایی عادی، عادت‌کرده به اطاعت و فاقد داوری مستقل، عبور کنند.
در اینجا «فکر کردن» برای آرنت اهمیت پیدا می‌کند.
فکر کردن یعنی فقط اطلاعات داشتن نیست.
یعنی انسان بتواند لحظه‌ای بایستد و از خودش بپرسد:
من چه می‌کنم؟ چرا این کار را می‌کنم؟ آیا مسئولیت این تصمیم را می‌پذیرم؟
هایدگر؛ وقتی انسان در میان «دیگران» زندگی می‌کند
مارتین هایدگر از تأثیرگذارترین فیلسوفان قرن بیستم بود و در جوانی یکی از استادان مهم هانا آرنت محسوب می‌شد.
یکی از موضوعات مهم در فلسفه او، وضعیت انسان در زندگی روزمره است.
انسان اغلب آن‌طور که خودش انتخاب کرده زندگی نمی‌کند؛ بلکه تحت تأثیر چیزی قرار می‌گیرد که «دیگران» انجام می‌دهند، می‌گویند و تأیید می‌کنند.
چه بخریم؟
چه بگوییم؟
چه بخوانیم؟
چه چیزی را موفقیت بدانیم؟
چه چیزی را شکست بدانیم؟
بسیاری از این پاسخ‌ها را ممکن است بدون اینکه متوجه باشیم از محیط اطراف خود گرفته باشیم.
این مسئله در عصر دیجیتال شکل تازه‌ای پیدا کرده است.
امروز «دیگران» فقط خانواده، دوستان، جامعه یا همکاران نیستند.
آنها می‌توانند الگوریتم‌ها نیز باشند.
چیزی که بیشتر دیده می‌شود، بیشتر پیشنهاد می‌شود؛ و چیزی که بیشتر پیشنهاد می‌شود، بیشتر دیده می‌شود.
به این ترتیب، ممکن است انسان تصور کند که انتخاب می‌کند، در حالی که بخشی از محیط انتخاب او از قبل طراحی شده است.
یاسپرس؛ آزادی بدون مسئولیت وجود ندارد
کارل یاسپرس، فیلسوف و روان‌پزشک آلمانی، بر موضوعاتی مانند آزادی، مسئولیت و ارتباط میان انسان‌ها تأکید داشت.
برای یاسپرس، انسان در موقعیت‌هایی قرار می‌گیرد که نمی‌تواند به آسانی از آنها فرار کند؛ رنج، شکست، مرگ، گناه و محدودیت‌های زندگی.
این موقعیت‌ها انسان را مجبور می‌کنند با خودش روبه‌رو شود.
از این زاویه، آزادی فقط داشتن گزینه‌های زیاد نیست.
آزادی یعنی توانایی انتخاب و پذیرفتن مسئولیت انتخاب.
این موضوع در عصر هوش مصنوعی اهمیت بیشتری پیدا می‌کند.
اگر یک سیستم هوشمند به مدیر یک شرکت پیشنهاد دهد کدام مشتری را هدف قرار دهد، کدام محصول را توسعه دهد یا کدام تصمیم تجاری منطقی‌تر است، سؤال مهم فقط این نیست که:
«آیا الگوریتم درست گفته است؟»
سؤال مهم‌تر این است:
«چه کسی مسئول تصمیم نهایی است؟»
هوش مصنوعی؛ ابزار تفکر یا جایگزین تفکر؟
هوش مصنوعی می‌تواند سرعت تحلیل ما را چندین برابر کند.
می‌تواند حجم عظیمی از اطلاعات را بررسی کند، الگوها را پیدا کند، متن تولید کند، داده‌ها را دسته‌بندی کند و برای تصمیم‌گیری گزینه‌هایی ارائه دهد.
این یک فرصت تاریخی است.
اما یک خطر هم وجود دارد:
ممکن است انسان به جای استفاده از هوش مصنوعی برای بهتر فکر کردن، از آن برای فکر نکردن استفاده کند.
این دو با یکدیگر تفاوت اساسی دارند.
در حالت اول، انسان سؤال می‌پرسد، AI تحلیل می‌کند و انسان دوباره تحلیل را بررسی می‌کند.
در حالت دوم، انسان سؤال را هم به ماشین واگذار می‌کند و در نهایت فقط نتیجه را می‌پذیرد.
در حالت اول، فناوری توانایی انسان را افزایش می‌دهد.
در حالت دوم، ممکن است به تدریج جای بخشی از توانایی انسان را بگیرد.
مسئله اصلی کسب‌وکارها در عصر AI
کسب‌وکار آینده فقط کسب‌وکاری نیست که بیشترین ابزار هوش مصنوعی را خریداری کرده باشد.
کسب‌وکار موفق، کسب‌وکاری است که بتواند بین اتوماسیون و مسئولیت انسانی تعادل ایجاد کند.
تصور کنید یک فروشگاه قطعات خودرو، صدها یا هزاران محصول دارد.
هوش مصنوعی می‌تواند اطلاعات محصولات را سازمان‌دهی کند، درخواست مشتری را تشخیص دهد، محصول مناسب را پیدا کند، قیمت‌ها را مقایسه کند، پیش‌فاکتور آماده کند و حتی فرآیند فروش را سریع‌تر کند.
اما هنوز یک سؤال باقی می‌ماند:
چه کسی تصمیم گرفته این سیستم چگونه رفتار کند؟
چه کسی اطلاعات آن را بررسی می‌کند؟
چه کسی خطاهای آن را می‌پذیرد و اصلاح می‌کند؟
چه کسی در برابر مشتری مسئول است؟
اینجاست که فناوری از یک «ابزار» به یک سیستم تصمیم‌یار برای کسب‌وکار تبدیل می‌شود.
و درست همین‌جا باید مراقب باشیم که هوشمندسازی را با حذف مسئولیت انسانی اشتباه نگیریم.
از «اطاعت» تا «اتوماسیون»
شاید یکی از جالب‌ترین ارتباط‌هایی که می‌توان میان آرنت و عصر هوش مصنوعی برقرار کرد، همین باشد.
آرنت درباره انسانی صحبت می‌کرد که ممکن است وظیفه‌ای را انجام دهد بدون اینکه درباره معنای آن عمیقاً فکر کند.
امروز ممکن است شکل مسئله تغییر کرده باشد.
به جای اینکه انسان بگوید:
«من فقط دستور را اجرا کردم.»
ممکن است بگوید:
«سیستم این تصمیم را پیشنهاد داد.»
اما این جمله نمی‌تواند به‌تنهایی مسئولیت را از انسان بردارد.
اگر یک مدیر تصمیم مهمی را فقط به این دلیل اجرا کند که یک سیستم هوش مصنوعی آن را پیشنهاد داده، هنوز این مدیر است که باید درباره تصمیم خود پاسخگو باشد.
فناوری می‌تواند تصمیم را پیشنهاد کند؛ اما مسئولیت اخلاقی و انسانی را نمی‌توان به‌سادگی به ماشین منتقل کرد.
DigiBenis؛ فناوری برای انسان، نه جای انسان
در DigiBenis می‌توان به فناوری از زاویه‌ای متفاوت نگاه کرد.
هدف هوش مصنوعی فقط این نیست که چند کار را سریع‌تر انجام دهد.
هدف بزرگ‌تر می‌تواند این باشد که انسان را از کارهای تکراری آزاد کند تا برای کارهای مهم‌تر وقت داشته باشد.
اگر یک سیستم بتواند اطلاعات را جمع‌آوری کند، داده‌ها را تحلیل کند و فرآیندهای تکراری را خودکار کند، مدیر دیگر مجبور نیست تمام انرژی خود را صرف کارهای مکانیکی کند.
می‌تواند بیشتر فکر کند.
بیشتر تصمیم بگیرد.
بیشتر با مشتری ارتباط داشته باشد.
و مهم‌تر از همه، مسئولیت تصمیم‌هایش را آگاهانه‌تر بپذیرد.
این شاید یکی از بهترین کاربردهای هوش مصنوعی باشد:
نه اینکه انسان کمتر فکر کند؛ بلکه کمک کند انسان بهتر فکر کند.
آینده متعلق به انسان‌های هوشمند یا سیستم‌های هوشمند؟
احتمالاً پاسخ، یکی بدون دیگری نیست.
هوش مصنوعی قدرتمندتر خواهد شد.
سیستم‌های خودکار گسترده‌تر خواهند شد.
کسب‌وکارها بیشتر به داده و الگوریتم وابسته خواهند شد.
اما در میان این تحول، یک ویژگی انسانی همچنان اهمیت اساسی خواهد داشت:
توانایی پرسیدن «چرا؟»
ماشین می‌تواند بگوید چه اتفاقی افتاده است.
می‌تواند احتمال بدهد چه اتفاقی خواهد افتاد.
می‌تواند گزینه‌های مختلف را مقایسه کند.
اما انسان همچنان باید بپرسد:
آیا این همان کاری است که باید انجام دهیم؟
شاید مهم‌ترین مهارت عصر هوش مصنوعی، کار کردن با ماشین نباشد.
شاید مهم‌ترین مهارت این باشد که در کنار ماشین، همچنان انسان باقی بمانیم.
و این همان نقطه‌ای است که اندیشه هانا آرنت، هایدگر و یاسپرس، با وجود فاصله تاریخی بسیار زیاد، دوباره برای دنیای امروز معنا پیدا می‌کند.
مسئله آینده این نیست که هوش مصنوعی چقدر می‌تواند به جای انسان فکر کند؛ مسئله این است که انسان چقدر حاضر است همچنان خودش فکر کند.