اعتماد به هوش مصنوعی؛ مردم چه فکر میکنند و مسئولیت با کیست؟
اعتماد به هوش مصنوعی
وقتی تصمیمها دیگر فقط انسانی نیستند
وقتی یک پاسخ اشتباه، دیگر فقط یک اشتباه نیست
اعتماد به هوش مصنوعی چه مرزهایی دارد ؟ صبح یک روز کاری است. یکی از مراکز خدمات قضایی الکترونیکی شهر شلوغتر از همیشه به نظر میرسد. عدهای سرگرم تلفن همراهشان هستند، بعضیها فرمهای اداری را مرور میکنند و چند نفر هم در سکوت، نوبت خود را انتظار میکشند.
چند صندلی آنطرفتر، مردی حدود چهل ساله مشغول نوشتن یک متن اعتراضی است. هر چند ثانیه یکبار صفحه گوشی را نگاه میکند، جملهای را تغییر میدهد و دوباره ادامه میدهد. وقتی صحبت از هوش مصنوعی به میان میآید، با خنده میگوید: «متن اولیه را هوش مصنوعی نوشت. من فقط لحنش را عوض کردم. راستش دیگر برای چنین کارهایی اول سراغ گوگل نمیروم.»
در بیرون از دفتر و در نزدیکی یک کافی نت، دانشجویی که منتظر انجام امور مربوط یه پایان نامه هست را دیدم. او در مورد اعتماد به هوش مصنوعی نظر متفاوتی دارد. میگوید از هوش مصنوعی برای خلاصه کردن کتابها و پیدا کردن ایده استفاده میکند، اما هنوز حاضر نیست پاسخهای علمی آن را بدون بررسی بپذیرد. «گاهی با اطمینان کامل چیزی میگوید که بعداً معلوم میشود اشتباه بوده است.»
این جمله، شاید پرتکرارترین عبارتی باشد که هنگام تهیه این گزارش توسط خبرنگار خبرICT شنیده میشود؛ «کمکش میگیرم، اما به آن تکیه نمیکنم.»
اعتماد، ظاهراً در حال شکل گرفتن است، اما هنوز کامل نشده است.
در بازار، فروشندهای که بیشتر ارتباطش با مشتریان از طریق شبکههای اجتماعی است، از تجربه متفاوتی میگوید. او حالا متن معرفی کالاها، پاسخ اولیه به مشتریان و حتی ایدههای تبلیغاتی را با کمک هوش مصنوعی آماده میکند. با این حال، تأکید میکند که هر متن قبل از انتشار دوباره خوانده میشود. «اگر اطلاعات اشتباه باشد، مشتری از من شکایت میکند، نه از هوش مصنوعی.»
همین جمله، ما را به یکی از مهمترین پرسشهای عصر هوش مصنوعی میرساند. وقتی هوش مصنوعی اشتباه میکند، مسئولیت با چه کسی است؟
این پرسشی است که امروز تنها ذهن کاربران را مشغول نکرده، بلکه به یکی از جدیترین مباحث حقوقی و اخلاقی جهان فناوری تبدیل شده است.
مسئولیت اعتماد به هوش مصنوعی با کیست ؟
پژوهشگران حوزه اخلاق هوش مصنوعی تأکید میکنند که سامانههای هوش مصنوعی، برخلاف انسان، نه مسئولیت حقوقی دارند و نه پاسخگو هستند. تصمیم نهایی و مسئولیت استفاده از خروجی آنها بر عهده انسان یا سازمانی است که از این فناوری استفاده میکند. به همین دلیل، در بسیاری از کشورها مقررات جدیدی در حال تدوین است تا مشخص شود اگر یک سامانه هوش مصنوعی در تشخیص پزشکی، استخدام، اعطای وام یا حتی تولید خبر دچار خطا شود، چه کسی باید پاسخگو باشد.
دکتر رستگاری از کارشناسان حوزه حقوق فناوری در گفتوگویی با خبرنگار خبرICT این وضعیت را چنین توصیف میکند: «هوش مصنوعی یک ابزار است، نه یک شخصیت حقوقی. مسئولیت از دوش انسان برداشته نمیشود، حتی اگر تصمیم با کمک یک الگوریتم گرفته شده باشد.»
این نگرانی فقط به مسائل حقوقی محدود نیست.
راستی آزمایی شرط استفاده از هوش مصنوعی
کارشناسان ارتباطات هشدار میدهند که اگر کاربران بدون راستیآزمایی به پاسخهای هوش مصنوعی اعتماد کنند، انتشار اطلاعات نادرست میتواند با سرعتی بیسابقه افزایش پیدا کند. در مقابل، متخصصان علوم رایانه معتقدند راهحل، کنار گذاشتن این فناوری نیست. بلکه افزایش سواد هوش مصنوعی در میان مردم است. همانگونه که جامعه یاد گرفت اخبار جعلی را تشخیص دهد یا در فضای مجازی از اطلاعات شخصی خود محافظت کند، اکنون نیز باید بیاموزد چگونه پاسخهای هوش مصنوعی را ارزیابی کند.
شاید مهمترین تغییری که هوش مصنوعی ایجاد کرده، نه در سرعت انجام کارها، بلکه در مفهوم «اعتماد» باشد. تا دیروز اعتماد میان انسان و انسان معنا پیدا میکرد؛ امروز بخشی از این اعتماد به سامانههایی منتقل شده که نه احساس دارند، نه مسئولیت میپذیرند و نه میتوانند بابت اشتباهاتشان عذرخواهی کنند.
در پایان یک روز گفتوگو با افراد مختلف، تصویر روشنی شکل میگیرد. مردم از هوش مصنوعی استقبال کردهاند. از دانشجو و فروشنده گرفته تا کارمند، پزشک و مدیر کسبوکار. اما تقریباً هیچکس حاضر نیست مسئولیت یک تصمیم مهم را به طور کامل به آن واگذار کند.
شاید این همان نقطهای باشد که آینده هوش مصنوعی در آن رقم میخورد؛ نه در توانایی الگوریتمها برای پاسخ دادن، بلکه در توانایی انسان برای تشخیص اینکه چه زمانی باید به هوش مصنوعی اعتماد کرد و چه زمانی باید مسئولیت تصمیم را شخصاً بر عهده گرفت.
