هوش مصنوعی جای انسان را نگرفته است؛ جای پاسخگو را گرفته است

مسئولیت در عصر هوش مصنوعی؛ وقتی تصمیم انسانی، امضای الگوریتم را دارد

مسئولیت در عصر هوش مصنوعی مهم‌ترین پرسشی است که این روزها در هیاهوی رقابت بر سر مدل‌های زبانی، پردازنده‌های قدرتمندتر و دستیارهای هوشمند، کمتر کسی درباره آن سخن می‌گوید. تقریباً هر روز خبری تازه از توانایی‌های شگفت‌انگیز هوش مصنوعی منتشر می‌شود. از تولید نرم‌افزار و تشخیص بیماری گرفته تا خلق تصویر، تدوین قراردادهای حقوقی و تحلیل داده‌های پیچیده. در مقابل، بخش بزرگی از تحلیل‌ها نیز بر آینده مشاغل متمرکز شده‌اند. اینکه کدام حرفه‌ها حذف می‌شوند، چه مهارت‌هایی بی‌ارزش خواهند شد و انسان چگونه باید خود را با این موج تازه فناوری تطبیق دهد.

اما شاید همه این پرسش‌ها، صورت مسئله را اشتباه انتخاب کرده باشند.

سرمقاله شنبه های خبرICT به قلم مدیرمسئول پایگاه خبری ارتباطات و فناوری اطلاعات به موضوع جایگاه هوش مصنوعی در عرصه تصمیمات مدیران پرداخته است. با ما همراه باشید.

نویسنده : مهدی گمرکی

جایگاه پاسخگو در عصر هوش مصنوعی

شاید مسئله اصلی این نباشد که هوش مصنوعی جای انسان را خواهد گرفت یا نه. بلکه این باشد که انسان، آرام‌آرام جایگاه خود را به عنوان «پاسخگو» از دست می‌دهد.

تفاوت این دو نگاه، تنها در چند واژه خلاصه نمی‌شود. یکی درباره اشتغال است و دیگری درباره بنیان تمدن دیجیتال. نخستین پرسش از اقتصاد سخن می‌گوید و دومی از اخلاق، حقوق، مدیریت و حتی ماهیت تصمیم‌گیری در جهان آینده.

برای دهه‌ها فناوری، ابزاری در اختیار انسان بود. ماشین‌حساب سریع‌تر از ما محاسبه می‌کرد، نرم‌افزارهای حسابداری دقیق‌تر از ما اعداد را کنار هم می‌چیدند و موتورهای جست‌وجو میلیون‌ها صفحه وب را در چند ثانیه پیش روی ما قرار می‌دادند. با این حال، یک اصل تغییر نمی‌کرد. انسان تصمیم می‌گرفت و مسئولیت تصمیم نیز با او بود.

کم رنگ شدن مرزها در عصر دیجیتال

امروز مدیرعامل یک شرکت، پیش از تصمیم‌گیری از یک مدل زبانی می‌خواهد بازار را تحلیل کند. پزشک از سامانه‌ای مبتنی بر هوش مصنوعی برای بررسی تصاویر پزشکی کمک می‌گیرد. برنامه‌نویس پیش از آنکه خود به راه‌حل فکر کند، پیشنهاد دستیار کدنویسی را بررسی می‌کند. خبرنگار از هوش مصنوعی برای تنظیم پیش‌نویس گزارش استفاده می‌کند و حتی دانشجویی که در حال نگارش پایان‌نامه است، ابتدا از یک مدل زبانی می‌پرسد چگونه فکر کند و سپس شروع به نوشتن می‌کند.

وجه مشترک همه این مثال‌ها، افزایش بهره‌وری نیست. تغییر نقش انسان است.

ما دیگر فقط از ماشین‌ها نمی‌خواهیم کارهای تکراری را انجام دهند. از آن‌ها می‌خواهیم قضاوت کنند، اولویت‌بندی کنند، پیشنهاد بدهند و گاهی حتی به جای ما تصمیم بگیرند. این همان نقطه‌ای است که هوش مصنوعی از یک ابزار، به یک «شریک تصمیم‌سازی» تبدیل می‌شود.

شاید در نگاه اول، این تحول اتفاقی مثبت به نظر برسد. چه اشکالی دارد اگر الگوریتمی بتواند در چند ثانیه هزاران صفحه گزارش را تحلیل کند یا با بررسی میلیون‌ها داده، بهترین گزینه را پیشنهاد دهد؟ مگر نه اینکه هدف فناوری، افزایش دقت و سرعت تصمیم‌گیری است؟

پاسخ، تا زمانی که همه‌چیز درست پیش برود، مثبت است.

اما تاریخ فناوری هرگز با روزهای عادی نوشته نشده است. تاریخ را خطاها می‌سازند.

آزمون و خط رسم همه فناوری ها

همه فناوری‌ها زمانی به آزمون واقعی می‌رسند که اشتباه می‌کنند. هواپیما زمانی اهمیت استانداردهای ایمنی را نشان داد که سقوط کرد. نیروگاه هسته‌ای زمانی مفهوم نظارت را جدی کرد که حادثه آفرید. سامانه‌های مالی نیز زمانی بازطراحی شدند که بحران‌های اقتصادی، اعتماد عمومی را متزلزل کردند.

هوش مصنوعی نیز از این قاعده مستثنا نیست.

امروز پرسش اساسی این نیست که اگر هوش مصنوعی درست تصمیم بگیرد چه اتفاقی می‌افتد. پرسش این است که اگر اشتباه کند، چه کسی باید پاسخگو باشد؟

فرض کنید یک بیمارستان، سامانه‌ای هوشمند را برای اولویت‌بندی بیماران اورژانسی به کار می‌گیرد. الگوریتم با تحلیل علائم، احتمال خطر را برآورد می‌کند و ترتیب رسیدگی را پیشنهاد می‌دهد. پزشک نیز به دلیل اعتماد به دقت سامانه، همان پیشنهاد را می‌پذیرد. اگر بیماری که در اولویت پایین قرار گرفته، جان خود را از دست بدهد، مسئولیت این تصمیم بر عهده چه کسی است؟

پزشکی که تنها پیشنهاد سیستم را تأیید کرده است؟

شرکت تولیدکننده نرم‌افزار؟

مدیر بیمارستان؟

یا الگوریتمی که نه شخصیت حقوقی دارد، نه وجدان، نه توانایی پذیرش مسئولیت؟

اخلاق در عصر هوش مصنوعی

این پرسش، دیگر یک سناریوی علمی‌تخیلی نیست. واقعیتی است که آرام‌آرام وارد اتاق‌های هیئت‌مدیره، مراکز درمانی، بانک‌ها، دادگاه‌ها و حتی کلاس‌های درس شده است.

شاید بزرگ‌ترین خطری که هوش مصنوعی برای جامعه امروز ایجاد می‌کند، از دست رفتن شغل‌ها نباشد. بلکه از دست رفتن مرز میان «تصمیم‌گیرنده» و «پاسخگو» باشد.

تمدن انسانی بر پایه یک اصل ساده بنا شده است. هر تصمیم، یک مسئول دارد. این اصل، ستون فقرات نظام‌های حقوقی، مدیریتی و اخلاقی است. اگر روزی تصمیم‌ها را ماشین‌ها بگیرند و مسئولیت همچنان بر دوش انسان بماند، با تناقضی روبه‌رو خواهیم شد که قوانین امروز برای آن پاسخی آماده ندارند. و اگر مسئولیت را نیز به ماشین واگذار کنیم، در حقیقت یکی از بنیادی‌ترین مفاهیم تمدن را بازتعریف کرده‌ایم.

اینجاست که مفهوم مسئولیت در عصر هوش مصنوعی از یک بحث تخصصی در حوزه فناوری اطلاعات فراتر می‌رود و به مسئله‌ای اجتماعی، اقتصادی و حتی تمدنی تبدیل می‌شود.

شاید اکنون زمان آن رسیده باشد که به جای شمارش مشاغلی که هوش مصنوعی حذف خواهد کرد، مشاغلی را بشماریم که هنوز انسان در آن‌ها حاضر است مسئولیت تصمیم خود را بپذیرد.

وابستگی به هوش مصنوعی؛ آغاز فرسایش قضاوت انسانی

یکی از بزرگ‌ترین سوءبرداشت‌ها درباره هوش مصنوعی این است که تصور می‌کنیم تهدید اصلی آن، جایگزینی انسان با ماشین است. شاید این اتفاق در برخی مشاغل رخ دهد، اما تاریخ فناوری نشان داده است که هر موج نوآوری، در کنار حذف برخی حرفه‌ها، فرصت‌های تازه‌ای نیز ایجاد کرده است. انقلاب صنعتی، اینترنت و تلفن همراه نیز همین مسیر را طی کردند.

آنچه هوش مصنوعی را از بسیاری از فناوری‌های پیشین متمایز می‌کند، نه توانایی آن در انجام کارها، بلکه توانایی آن در پیشنهاد تصمیم است.

این تفاوت، ظاهراً ساده اما از نظر مدیریتی و اجتماعی بسیار عمیق است.

در گذشته، فناوری به انسان کمک می‌کرد سریع‌تر عمل کند. امروز هوش مصنوعی به انسان می‌گوید چگونه عمل کند.

همین تغییر، نقطه آغاز دگرگونی بزرگی است که شاید هنوز ابعاد آن را به‌درستی درک نکرده‌ایم.

پدیده تنبلی شناختی

روان‌شناسان شناختی سال‌هاست درباره پدیده‌ای هشدار می‌دهند که آن را «تنبلی شناختی» می‌نامند. وضعیتی که در آن انسان، هنگامی که ابزارهای بیرونی وظیفه‌ای ذهنی را بر عهده می‌گیرند، به تدریج از آن مهارت کمتر استفاده می‌کند. همان‌گونه که استفاده دائمی از سامانه‌های مسیریابی، توانایی جهت‌یابی بسیاری از افراد را کاهش داده است یا وابستگی کامل به موتورهای جست‌وجو، بخشی از حافظه بلندمدت ما را به حافظه دیجیتال منتقل کرده است، اتکای بی‌چون‌وچرا به هوش مصنوعی نیز ممکن است مهم‌ترین توانایی انسان، یعنی قدرت قضاوت را فرسوده کند.

قضاوت، برخلاف اطلاعات، قابل دانلود نیست.

هیچ الگوریتمی نمی‌تواند تجربه زیسته، شهود، مسئولیت‌پذیری، ملاحظات اخلاقی و پیامدهای اجتماعی یک تصمیم را به طور کامل در قالب داده بازسازی کند. هوش مصنوعی می‌تواند احتمال موفقیت یک تصمیم را محاسبه کند، اما نمی‌تواند ارزش‌های انسانی را وزن‌دهی کند. زیرا ارزش‌ها، برخلاف داده‌ها، محصول فرهنگ، تجربه، مسئولیت و وجدان‌اند.

تصور کنید مدیری هر روز ده‌ها تصمیم خود را بر اساس پیشنهاد یک مدل هوش مصنوعی اتخاذ می‌کند. در ابتدا، این کار بهره‌وری را افزایش می‌دهد. پس از مدتی، اعتماد او به سامانه بیشتر می‌شود و بررسی‌های مستقل کمتر. چند سال بعد، او همچنان مدیر همان سازمان است، اما آیا هنوز همان قدرت تحلیل گذشته را دارد؟

این پرسشی است که کمتر درباره آن صحبت می‌شود.

مهارت تصمیم گیری و خطرات پیرامون آن

مهارت تصمیم‌گیری، مانند یک عضله است. اگر از آن استفاده نشود، تحلیل می‌رود.

هر بار که بدون تأمل، پیشنهاد الگوریتم را می‌پذیریم، شاید در ظاهر چند دقیقه در زمان صرفه‌جویی کرده باشیم، اما در بلندمدت، بخشی از توانایی تحلیل مستقل خود را نیز کنار گذاشته‌ایم.

این موضوع فقط به مدیران محدود نمی‌شود.

دانشجویی که برای هر تمرین از هوش مصنوعی پاسخ آماده می‌گیرد، ممکن است نمره بهتری کسب کند، اما آیا همان اندازه بهتر فکر می‌کند؟

برنامه‌نویسی که بدون درک منطق کد، صرفاً خروجی دستیار هوشمند را کپی می‌کند، شاید پروژه را زودتر تحویل دهد، اما آیا در پروژه بعدی نیز بدون آن ابزار قادر به حل مسئله خواهد بود؟

خبرنگاری که به جای تحلیل داده‌ها، تنها متن تولیدشده توسط هوش مصنوعی را بازنویسی می‌کند، آیا همچنان نقش یک روزنامه‌نگار را ایفا می‌کند یا صرفاً به ویراستار خروجی یک الگوریتم تبدیل شده است؟

وجه مشترک همه این مثال‌ها، کاهش مهارت فنی نیست؛ کاهش استقلال فکری است.

این همان نقطه‌ای است که باید میان «استفاده از هوش مصنوعی» و «وابستگی به هوش مصنوعی» مرز روشنی ترسیم کرد.

استفاده از یک فناوری، نشانه پیشرفت است. اما وابستگی به آن، زمانی که جایگزین تفکر شود، می‌تواند آغاز یک عقب‌گرد خاموش باشد.

خطری که در آمارها دیده نمی‌شود

اگر از مدیران سازمان‌ها بپرسید چرا به سراغ هوش مصنوعی رفته‌اند، پاسخ تقریباً همیشه یکسان است: افزایش سرعت، کاهش هزینه و بهبود دقت.

همه این پاسخ‌ها درست است.

اما تقریباً هیچ شاخصی وجود ندارد که اندازه‌گیری کند در ازای این افزایش بهره‌وری، چه میزان از توانایی قضاوت انسانی در حال تضعیف شدن است.

ما بهره‌وری را اندازه می‌گیریم، اما وابستگی را نه.

سرعت را می‌سنجیم، اما استقلال فکری را نه.

تعداد تصمیم‌های اتخاذشده را ثبت می‌کنیم، اما کیفیت فرآیند تصمیم‌گیری را کمتر مورد توجه قرار می‌دهیم.

این شاید بزرگ‌ترین خلأ تحول دیجیتال باشد.

در دهه‌های گذشته، سازمان‌ها برای مدیریت ریسک، چارچوب‌های مشخصی طراحی کردند. از کنترل کیفیت و مدیریت امنیت اطلاعات گرفته تا حاکمیت داده و مدیریت تداوم کسب‌وکار. اما اکنون زمان آن رسیده است که مفهوم تازه‌ای نیز وارد ادبیات مدیریت فناوری شود؛ «حاکمیت تصمیم» (Decision Governance).

سؤال کلیدی این است: در هر تصمیمی که هوش مصنوعی در آن نقش دارد، آخرین مسئول چه کسی است؟

اگر پاسخ این سؤال روشن نباشد، هرچقدر هم الگوریتم‌ها دقیق‌تر شوند، سازمان در برابر بحران‌های آینده آسیب‌پذیر خواهد بود.

هوش مصنوعی می‌تواند بهترین مشاور تاریخ باشد، اما هرگز نباید به آخرین مرجع مسئولیت تبدیل شود.

از حکمرانی داده تا حکمرانی تصمیم؛ چالش پیش‌روی عصر هوش مصنوعی

در دو دهه گذشته، ادبیات فناوری اطلاعات سرشار از مفاهیمی مانند «حاکمیت داده»، «امنیت اطلاعات»، «حریم خصوصی» و «تحول دیجیتال» بوده است. سازمان‌ها آموختند که داده یک دارایی راهبردی است، باید از آن محافظت کرد، کیفیت آن را سنجید و برای استفاده از آن چارچوب‌های مشخصی داشت.

اما هوش مصنوعی مسئله‌ای فراتر از داده را پیش روی ما قرار داده است.

اگر داده، سوخت اقتصاد دیجیتال بود، تصمیم، موتور آن است.

در جهانی که الگوریتم‌ها هر روز سهم بیشتری در تحلیل، پیش‌بینی و پیشنهاد تصمیم پیدا می‌کنند، دیگر کافی نیست فقط درباره حکمرانی داده سخن بگوییم. اکنون زمان آن رسیده است که از «حکمرانی تصمیم» نیز صحبت کنیم؛ اینکه چه کسی تصمیم می‌گیرد، چه کسی آن را تأیید می‌کند، چه کسی مسئول پیامدهای آن است و در نهایت، چه کسی باید پاسخگوی جامعه باشد.

این پرسش، صرفاً دغدغه شرکت‌های فناوری نیست. بانک‌ها، بیمارستان‌ها، شرکت‌های بیمه، رسانه‌ها، دانشگاه‌ها و حتی نهادهای عمومی، دیر یا زود با آن روبه‌رو خواهند شد. هر جا که یک الگوریتم در شکل‌گیری یک تصمیم نقش داشته باشد، موضوع مسئولیت نیز به همان اندازه اهمیت پیدا می‌کند.

خطر پنهان «توهم بی‌طرفی الگوریتم»

یکی از دلایل اعتماد بیش از اندازه به هوش مصنوعی، این تصور است که ماشین‌ها بی‌طرف‌اند؛ گویی الگوریتم‌ها چون احساس، تعصب یا منافع شخصی ندارند، پس تصمیم‌هایشان نیز عادلانه‌تر است.

اما واقعیت پیچیده‌تر از این است.

هوش مصنوعی بر پایه داده‌هایی آموزش می‌بیند که محصول رفتار انسان‌ها، ساختارهای اجتماعی و تصمیم‌های گذشته‌اند. اگر این داده‌ها دارای سوگیری باشند، خروجی الگوریتم نیز می‌تواند همان سوگیری را، گاه در مقیاسی بسیار بزرگ‌تر، بازتولید کند.

به همین دلیل، پرسش درست این نیست که «آیا هوش مصنوعی اشتباه می‌کند؟» بلکه این است که «وقتی اشتباه می‌کند، چه سازوکاری برای کشف، اصلاح و پاسخگویی وجود دارد؟»

این همان نقطه‌ای است که مسئولیت در عصر هوش مصنوعی از یک موضوع فنی به یک مسئله حکمرانی تبدیل می‌شود.

سازمان‌های موفق آینده، فقط هوشمند نخواهند بود

در سال‌های آینده، تقریباً همه سازمان‌ها به ابزارهای هوش مصنوعی دسترسی خواهند داشت. همان‌گونه که امروز داشتن رایانه، اینترنت یا سامانه‌های ابری مزیت رقابتی محسوب نمی‌شود، استفاده از هوش مصنوعی نیز به‌تدریج به یک قابلیت عمومی تبدیل خواهد شد.

در چنین شرایطی، تفاوت سازمان‌های موفق نه در دسترسی به هوش مصنوعی، بلکه در شیوه استفاده از آن خواهد بود.

سازمانی برنده خواهد بود که برای هر تصمیم مهم، مرز روشنی میان «پیشنهاد الگوریتم» و «مسئولیت مدیر» ترسیم کند؛ سازمانی که بداند هوش مصنوعی می‌تواند فرآیند تصمیم‌سازی را تقویت کند، اما نباید جایگزین پاسخگویی انسانی شود.

شاید مهم‌ترین مهارت مدیران آینده، نه کار با مدل‌های زبانی و نه نوشتن دستورهای بهتر برای هوش مصنوعی، بلکه توانایی مقاومت در برابر وسوسه واگذاری کامل قضاوت به ماشین باشد.

جمع‌بندی؛ آینده را نه هوش مصنوعی، بلکه مسئولیت انسان تعیین می‌کند

هر انقلاب فناوری، پرسشی بنیادین را پیش روی جامعه قرار داده است. انقلاب صنعتی از ما پرسید چگونه باید با ماشین کار کنیم. اینترنت این پرسش را مطرح کرد که چگونه در جهانی متصل زندگی کنیم. اکنون هوش مصنوعی پرسشی عمیق‌تر مطرح می‌کند: چگونه می‌توان در جهانی که ماشین‌ها در تصمیم‌سازی شریک شده‌اند، همچنان مسئول ماند؟

شاید سال‌ها بعد، مورخان فناوری این دوره را نه به خاطر ظهور مدل‌های زبانی یا رقابت بر سر پردازنده‌های قدرتمندتر به یاد بیاورند، بلکه به عنوان نقطه‌ای ثبت کنند که انسان، برای نخستین بار، وسوسه شد مسئولیت تصمیم‌های خود را نیز به فناوری واگذار کند.

اما مسئولیت، برخلاف داده، قابل پردازش نیست. برخلاف نرم‌افزار، قابل به‌روزرسانی نیست؛ و برخلاف الگوریتم، قابل برون‌سپاری نیست.

هوش مصنوعی می‌تواند سریع‌تر از ما محاسبه کند، دقیق‌تر از ما الگوها را تشخیص دهد و حتی در بسیاری از حوزه‌ها پیشنهادهای بهتری ارائه کند. اما هنوز یک توانایی منحصربه‌فرد انسانی وجود دارد که هیچ مدل زبانی و هیچ الگوریتمی نمی‌تواند جای آن را بگیرد: پذیرفتن پیامدهای یک تصمیم.

شاید به همین دلیل، مهم‌ترین دارایی سازمان‌ها در دهه پیش رو نه داده خواهد بود، نه پردازنده‌های قدرتمند و نه حتی پیشرفته‌ترین مدل‌های هوش مصنوعی. بلکه مدیران، متخصصان و سیاست‌گذارانی خواهند بود که در اوج اتکا به فناوری، همچنان جرئت داشته باشند زیر تصمیم‌های خود را امضا کنند و مسئولیت آن را بپذیرند.

زیرا آینده را هوشمندترین الگوریتم‌ها نخواهند ساخت. آینده را انسان‌هایی خواهند ساخت که بدانند کجا باید از هوش مصنوعی کمک بگیرند و کجا باید با تمام مسئولیت، خود تصمیم بگیرند.

نویسنده : مهدی گمرکی

مشاوره کسب و کار