آیا هوش مصنوعی میفهمد؟ تفاوت هوش مصنوعی و انسان | قسمت ۱۷
آیا هوش مصنوعی میفهمد
فصل پنجم: تفاوت یادگیری عمیق با یادگیری ماشین
قسمت هفدهم: آیا هوش مصنوعی واقعاً میفهمد؟
در قسمتهای گذشته، سفری طولانی را پشت سر گذاشتیم.
از یادگیری ماشین شروع کردیم، وارد دنیای یادگیری عمیق شدیم، با CNN و RNN/LSTM آشنا شدیم، سپس به Transformer رسیدیم.
بعد دیدیم که مدلهای زبانی بزرگ چگونه میتوانند متن تولید کنند و ابزارهایی مانند ChatGPT چگونه به بخشی از زندگی روزمره ما تبدیل شدهاند.
در قسمت پانزدهم، وارد دنیای تولید تصویر با هوش مصنوعی شدیم و در قسمت شانزدهم نیز درباره تولید صدا و ویدئو صحبت کردیم.
و به این پرسش پاسخ دادیم که تولید ویدئو با هوش مصنوعی چگونه انجام میشود؟
تحقیق و تدوین مهدی گمرکی
حالا وقت آن رسیده است که یک قدم عقبتر برویم و یک سؤال بسیار مهم را مطرح کنیم:
آیا هوش مصنوعی واقعاً میفهمد؟
وقتی از یک مدل هوش مصنوعی سؤال میپرسیم و پاسخی دقیق دریافت میکنیم، ممکن است تصور کنیم که مدل دقیقاً مانند یک انسان سؤال را فهمیده است.
وقتی تصویری را به یک مدل میدهیم و از آن میخواهیم درباره تصویر توضیح دهد، باز هم ممکن است بگوییم:
«پس ماشین تصویر را دیده و فهمیده است.»
اما آیا واقعاً چنین است؟
این سؤال یکی از بحثهای مهم در علوم کامپیوتر، هوش مصنوعی، علوم شناختی و فلسفه ذهن است.
و پاسخ آن به این سادگی که «بله» یا «خیر» باشد نیست.
اول باید بدانیم «فهمیدن» یعنی چه؟
قبل از اینکه درباره فهم ماشین صحبت کنیم، باید خود مفهوم فهم را مشخص کنیم.
وقتی انسان جملهای را میخواند، فقط ارتباط میان کلمات را تشخیص نمیدهد.
برای مثال جمله زیر را ببینید:
«لیوان از روی میز افتاد و شکست.»
یک انسان معمولاً میتواند مفاهیم مختلفی را از این جمله برداشت کند:
لیوان یک شیء فیزیکی است.
لیوان روی میز قرار داشته است.
لیوان از ارتفاعی سقوط کرده است.
برخورد با سطح سخت میتواند باعث شکستن آن شود.
اما یک مدل هوش مصنوعی چگونه با این جمله برخورد میکند؟
مدل مجموعهای بسیار پیچیده از روابط آماری و بازنماییهای عددی را روی دادههای ورودی اعمال میکند.
بنابراین سؤال مهم این است:
آیا این روابط عددی همان چیزی هستند که ما «فهم» مینامیم؟
هنوز درباره پاسخ دقیق این سؤال اتفاق نظر وجود ندارد.
پیشبینی کلمه بعدی؛ ساده اما قدرتمند
یکی از مهمترین ایدهها برای درک مدلهای زبانی این است که بسیاری از آنها در فرایند آموزش، بهطور سادهشده یاد میگیرند که بر اساس متن موجود، توکن بعدی را پیشبینی کنند.
مثلاً اگر جملهای داشته باشیم:
«امروز هوا خیلی…»
احتمال دارد ادامههایی مانند:
«خوب»
یا
«سرد»
یا
«گرم»
برای مدل محتمل باشند.
اما اگر این فرایند را در مقیاس بسیار بزرگ انجام دهیم، چه اتفاقی میافتد؟
مدل مجبور میشود روابط بسیار پیچیدهای را در زبان یاد بگیرد.
برای پیشبینی درست یک کلمه، گاهی باید:
- دستور زبان را در نظر بگیرد.
- به کلمات قبلی توجه کند.
- رابطه میان مفاهیم را تشخیص دهد.
- سبک متن را درک کند.
- ارتباط میان بخشهای مختلف جمله را بررسی کند.
- و حتی در برخی موارد، اطلاعاتی درباره جهان را در پاسخ لحاظ کند.
بنابراین چیزی که در ظاهر فقط «پیشبینی توکن بعدی» به نظر میرسد، میتواند به رفتارهای بسیار پیچیده منجر شود.
آیا پیشبینی یعنی فهمیدن؟
اینجا به یک تفاوت مهم میرسیم.
فرض کنید یک ماشین حساب نتیجه عبارت:
۲۵ × ۴۸
را بهدرستی محاسبه میکند.
آیا میتوانیم بگوییم ماشین حساب مفهوم ضرب را مانند یک انسان درک کرده است؟
احتمالاً نه.
ماشین حساب عملیات ریاضی را بر اساس قواعد مشخص انجام میدهد.
اما مدلهای زبانی وضعیت متفاوت و پیچیدهتری دارند.
آنها میتوانند درباره موضوعات مختلف صحبت کنند، استدلالهایی ارائه دهند، متن تولید کنند، کد بنویسند و حتی در برخی مسائل چندمرحلهای عملکرد قابلتوجهی داشته باشند.
بنابراین مقایسه آنها با یک ماشین حساب ساده نیست.
با این حال، از عملکرد موفق یک مدل نیز نمیتوان بهتنهایی نتیجه گرفت که مدل دارای درک انسانی است.
یک آزمایش ذهنی جالب
فرض کنید یک ربات در یک اتاق قرار دارد.
روی میز، یک فنجان آب وجود دارد.
به ربات میگوییم:
«فنجان را بردار و روی میز دیگری قرار بده.»
ربات این کار را انجام میدهد.
حالا سؤال:
آیا ربات میداند «آب» چیست؟
آیا مفهوم «فنجان» را مانند انسان تجربه میکند؟
آیا میداند اگر فنجان را برعکس کند، آب ممکن است روی زمین بریزد؟
یا فقط مجموعهای از روابط میان اشیا و دستورها را یاد گرفته است؟
این مثال نشان میدهد که انجام موفق یک کار الزاماً به معنای داشتن تجربه یا فهم انسانی از آن کار نیست.
هوش مصنوعی و مسئله «اتاق چینی»
یکی از مشهورترین بحثها درباره فهم ماشین، آزمایش فکری اتاق چینی است که فیلسوف جان سرل مطرح کرد.
در این سناریو، فردی در اتاقی قرار دارد و دستورالعملهایی برای دستکاری نمادهای چینی در اختیار اوست.
این فرد زبان چینی را نمیداند، اما میتواند بر اساس دستورالعملها پاسخهایی تولید کند که برای فرد خارج از اتاق مانند پاسخهای یک فرد مسلط به زبان چینی به نظر برسد.
سؤال سرل این بود:
آیا اجرای درست قواعد و تولید پاسخ مناسب، به معنای فهم زبان است؟
این آزمایش فکری دهههاست که موضوع بحث است و پاسخهای مختلفی به آن داده شده است.
هدف ما در اینجا حل این بحث فلسفی نیست؛ بلکه میخواهیم یک نکته را متوجه شویم:
رفتار هوشمندانه همیشه بهسادگی معادل فهم درونی نیست.
اما مدلهای جدید فقط «طوطی» نیستند
در طرف مقابل، نباید به دام یک سادهسازی دیگر هم بیفتیم.
گاهی گفته میشود:
«مدلهای هوش مصنوعی فقط طوطیوار متنهای آموزشی را تکرار میکنند.»
این توضیح نیز برای توصیف کامل مدلهای مدرن کافی نیست.
مدلهای بزرگ میتوانند الگوهای پیچیدهای را از دادهها یاد بگیرند و در بسیاری از موقعیتها پاسخهایی تولید کنند که عیناً در دادههای آموزشی وجود نداشتهاند.
برای مثال، ممکن است از مدل بخواهید یک داستان جدید با چند شخصیت مشخص بنویسد.
مدل میتواند عناصر مختلف را ترکیب کرده و متنی تولید کند که نمونه دقیق آن در دادههای آموزشی وجود نداشته است.
بنابراین بهتر است بین این دو دیدگاه افراطی تفاوت بگذاریم:
«هوش مصنوعی هیچ چیزی یاد نمیگیرد.»
و
«هوش مصنوعی دقیقاً مانند انسان میفهمد.»
واقعیت علمی پیچیدهتر از هر دو جمله است.
توهم هوش مصنوعی چیست؟
یکی از مشکلات مهم مدلهای مولد، چیزی است که معمولاً Hallucination یا توهم هوش مصنوعی نامیده میشود.
فرض کنید از یک مدل درباره یک مقاله علمی خاص سؤال میکنید.
مدل ممکن است پاسخی بسیار مطمئن ارائه دهد و حتی نام نویسنده، عنوان مقاله یا لینک به ظاهر معتبر تولید کند.
اما وقتی بررسی میکنید، متوجه میشوید بخشی از اطلاعات اشتباه بوده است.
چرا؟
زیرا مدل لزوماً مانند یک موتور جستوجو در حال بررسی حقیقت هر جمله نیست.
مدل میتواند متنی تولید کند که از نظر زبانی بسیار مناسب به نظر برسد، اما از نظر factual یا واقعی نادرست باشد.
به همین دلیل:
روان و مطمئن بودن یک پاسخ، تضمینکننده درست بودن آن نیست.
هوش مصنوعی میتواند اشتباهات عجیبی داشته باشد
مدلهای هوش مصنوعی ممکن است در برخی مسائل بسیار پیچیده عملکرد خوبی داشته باشند، اما در یک سؤال ظاهراً ساده اشتباه کنند.
مثلاً ممکن است بتوانند:
🧑💻 کد نسبتاً پیچیده تولید کنند.
📚 یک متن تخصصی را خلاصه کنند.
🧮 یک مسئله چندمرحلهای را حل کنند.
اما در شرایط خاص، در یک مسئله ساده منطقی دچار خطا شوند.
این رفتار برای انسان عجیب است.
چرا؟
چون ما معمولاً انتظار داریم اگر موجودی در یک کار پیچیده توانمند است، در کار سادهتر نیز موفق باشد.
اما مدلهای یادگیری ماشین الزاماً چنین ساختاری ندارند.
توانایی آنها به داده، معماری، فرایند آموزش و نوع مسئله وابسته است.
پس هوش چیست؟
حالا سؤال بزرگتری مطرح میشود:
اصلاً هوش را چگونه تعریف کنیم؟
در انسان، هوش فقط یک توانایی واحد نیست.
ما مجموعهای از تواناییها داریم:
🧠 یادگیری
🔍 حل مسئله
🗣️ زبان
👁️ ادراک
🧩 استدلال
🎯 برنامهریزی
🤝 تعامل اجتماعی
🎨 خلاقیت
و موارد بسیار دیگر.
یک سیستم هوش مصنوعی ممکن است در یکی از این حوزهها عملکرد فوقالعادهای داشته باشد، اما در حوزه دیگری محدودیت جدی داشته باشد.
به همین دلیل، مقایسه مستقیم «هوش مصنوعی» با «هوش انسانی» همیشه ساده نیست.
هوش مصنوعی تخصصی در برابر هوش عمومی
تا اینجا بیشتر درباره سیستمهایی صحبت کردهایم که برای مجموعهای از وظایف مشخص طراحی شدهاند.
این سیستمها را میتوان در دسته هوش مصنوعی محدود یا Narrow AI قرار داد.
مثلاً یک مدل ممکن است در:
🎯 تولید متن
🖼️ تحلیل تصویر
🎙️ پردازش صدا
🎬 تولید ویدئو
توانایی بالایی داشته باشد.
اما این موضوع بهتنهایی به معنای داشتن یک ذهن انسانی همهکاره نیست.
در مقابل، مفهوم AGI یا هوش عمومی مصنوعی به سیستمهایی اشاره دارد که انتظار میرود بتوانند طیف بسیار گستردهای از وظایف شناختی را با انعطافپذیری عمومی انجام دهند.
این مفهوم هنوز محل بحث است و درباره اینکه دقیقاً چه معیارهایی باید برای AGI در نظر گرفته شود، تعریف واحدی وجود ندارد.
آیا ماشینها میتوانند روزی واقعاً بفهمند؟
اینجا باید با دقت صحبت کنیم.
در حال حاضر، نمیتوانیم صرفاً از روی توانایی تولید متن، تصویر یا صدا نتیجه بگیریم که یک سیستم دارای تجربه ذهنی یا آگاهی انسانی است.
از سوی دیگر، نمیتوانیم فقط به دلیل اینکه معماری یک مدل با مغز انسان متفاوت است، با قطعیت درباره آینده حکم بدهیم.
پرسشهایی مانند:
آیا ماشین میتواند آگاه شود؟
آیا یک سیستم مصنوعی میتواند تجربه ذهنی داشته باشد؟
آیا هوش بدون بدن و تجربه انسانی امکانپذیر است؟
هنوز پاسخ قطعی و مورد توافقی ندارند.
بنابراین در این مرحله، بهتر است میان سه مفهوم تفاوت بگذاریم:
عملکرد هوشمندانه
فهم
آگاهی
این سه مفهوم لزوماً یکی نیستند.
یک نکته مهم درباره زبان انسانی
انسان زبان را فقط از طریق ارتباط میان کلمات یاد نمیگیرد.
ما جهان را تجربه میکنیم.
کودک «توپ» را میبیند، لمس میکند، پرتاب میکند و حرکت آن را مشاهده میکند.
وقتی میگوییم «توپ افتاد»، این جمله برای انسان به تجربهای از جهان فیزیکی متصل است.
اما یک مدل زبانی عمدتاً از دادههایی که برای آموزش در اختیارش قرار گرفته، الگوهای مربوط به زبان و مفاهیم را یاد میگیرد.
این تفاوت باعث شده برخی پژوهشگران درباره اینکه آیا یادگیری زبان بدون تجربه مستقیم جهان برای رسیدن به فهم واقعی کافی است یا نه بحث کنند.
این موضوع یکی از پرسشهای مهم آینده هوش مصنوعی است.
آیا هوش مصنوعی خلاق است؟
سؤال جذاب دیگری نیز وجود دارد:
وقتی هوش مصنوعی یک تصویر جدید یا داستان جدید تولید میکند، آیا خلاق است؟
پاسخ بستگی زیادی به تعریف ما از خلاقیت دارد.
اگر خلاقیت را تولید ترکیبی جدید از ایدهها بدانیم، مدلهای مولد قطعاً میتوانند خروجیهای جدید و گاهی بسیار خلاقانه ایجاد کنند.
اما اگر خلاقیت را به معنای تجربه شخصی، قصد، احساس و آگاهی از فرایند خلاقانه بدانیم، مسئله کاملاً متفاوت میشود.
بنابراین بهتر است درباره خروجی خلاقانه و تجربه خلاقیت تفاوت قائل شویم.
یک تغییر مهم در نگاه ما به هوش مصنوعی
شاید مهمترین نتیجه این بحث این نباشد که همین امروز تصمیم بگیریم:
«هوش مصنوعی میفهمد»
یا
«هوش مصنوعی نمیفهمد».
بلکه باید یاد بگیریم سؤال دقیقتری بپرسیم:
«این سیستم دقیقاً چه تواناییای دارد و در چه شرایطی محدود میشود؟»
این نگاه علمیتر و کاربردیتر است.
به جای اینکه صرفاً تحت تأثیر ظاهر یک پاسخ قرار بگیریم، عملکرد سیستم را بررسی میکنیم.
مثلاً:
آیا پاسخ قابلتکرار است؟
آیا اطلاعات آن درست است؟
آیا مدل میتواند استدلال خود را در شرایط جدید حفظ کند؟
آیا در تغییر شرایط دچار خطا میشود؟
آیا نتیجه را میتوان با منابع مستقل بررسی کرد؟
این نوع نگاه، بخشی از سواد هوش مصنوعی است.
انسان و هوش مصنوعی؛ رقابت یا همکاری؟
شاید یکی از مهمترین سؤالات آینده این باشد که:
آیا هوش مصنوعی جای انسان را میگیرد؟
اما این سؤال بیش از حد کلی است.
هوش مصنوعی احتمالاً برخی وظایف را خودکار میکند و در برخی مشاغل، شیوه انجام کار را تغییر میدهد.
در مقابل، انسان همچنان در بسیاری از فعالیتها نقش مهمی در:
🎯 تعیین هدف
⚖️ قضاوت
💡 تصمیمگیری
🤝 ارتباط انسانی
🎨 تعریف مسئله
و
🔍 بررسی نتایج
خواهد داشت.
بنابراین سؤال کاربردیتر این است:
کدام وظایف را میتوان به ماشین سپرد و کدام بخشها همچنان به قضاوت انسان نیاز دارند؟
ما به یک مهارت جدید نیاز داریم
در عصر هوش مصنوعی، فقط یاد گرفتن نحوه استفاده از ابزارهای AI کافی نیست.
باید یاد بگیریم:
چه سؤالی از مدل بپرسیم؟
پاسخ آن را چگونه بررسی کنیم؟
چه زمانی به آن اعتماد کنیم؟
چه زمانی از منابع دیگر کمک بگیریم؟
و مهمتر از همه:
کجا انسان باید تصمیم نهایی را بگیرد؟
این همان چیزی است که میتوانیم آن را سواد هوش مصنوعی بنامیم.
از Transformer تا این سؤال بزرگ
اگر به مسیر قسمتهای اخیر نگاه کنیم، اتفاق جالبی افتاده است.
در ابتدا پرسیدیم:
Transformer چیست؟
بعد پرسیدیم:
چگونه تصویر تولید میشود؟
سپس بررسی کردیم:
چگونه صدا و ویدئو تولید میشود؟
و حالا به بنیادیترین سؤال رسیدهایم:
آیا سیستمی که این همه کار انجام میدهد، واقعاً میفهمد؟
شاید همین سؤال، مرز میان هوش مصنوعی بهعنوان یک فناوری و هوش بهعنوان یک مفهوم علمی و فلسفی باشد.
قسمت هجدهم؛ مغز انسان در برابر شبکه عصبی
حالا که درباره تواناییهای هوش مصنوعی صحبت کردیم، وقت آن رسیده است که به سرچشمه الهام بسیاری از این فناوریها برگردیم:
مغز انسان.
شبکههای عصبی مصنوعی از ایده نورونهای مغز الهام گرفتهاند.
اما یک سؤال بسیار جذاب وجود دارد:
شبکه عصبی مصنوعی واقعاً چقدر شبیه مغز انسان است؟
آیا نورون مصنوعی همان کاری را انجام میدهد که نورون زیستی انجام میدهد؟
چرا مغز انسان با انرژی بسیار کم میتواند کارهایی انجام دهد که برای رایانهها بسیار پرهزینه است؟
و آیا میتوانیم روزی سیستمی بسازیم که از نظر سازوکار یادگیری، بسیار بیشتر به مغز انسان نزدیک باشد؟
در قسمت هجدهم به سراغ مغز انسان و شبکههای عصبی مصنوعی میرویم و تفاوت این دو را بررسی میکنیم.
جمعبندی قسمت هفدهم
در این قسمت دیدیم که سؤال «آیا هوش مصنوعی میفهمد؟» پاسخ سادهای ندارد.
🔹 مدلهای زبانی میتوانند الگوهای بسیار پیچیدهای را از دادهها یاد بگیرند.
🔹 پیشبینی توکن بعدی میتواند در مقیاس بزرگ به تواناییهای پیچیده زبانی منجر شود.
🔹 عملکرد موفق یک مدل لزوماً به معنای اثبات وجود فهم یا آگاهی انسانی در آن نیست.
🔹 از طرف دیگر، توصیف مدلهای مدرن صرفاً بهعنوان «تکرارکننده متن» نیز توضیح کاملی نیست.
🔹 مدلهای مولد ممکن است پاسخهایی بسیار روان اما نادرست تولید کنند؛ پدیدهای که معمولاً توهم هوش مصنوعی نامیده میشود.
🔹 هوش، فهم و آگاهی سه مفهوم متفاوتاند و نباید بدون دقت آنها را یکی دانست.
🔹 درباره آگاهی ماشین و اینکه آیا سیستمهای مصنوعی میتوانند روزی تجربه ذهنی داشته باشند، هنوز پاسخ علمی قطعی و مورد توافقی وجود ندارد.
🔹 یکی از مهمترین مهارتهای عصر جدید، ارزیابی انتقادی خروجی هوش مصنوعی است.
در نهایت، شاید بهترین سؤال این نباشد که:
«آیا هوش مصنوعی مثل انسان فکر میکند؟»
بلکه این باشد:
«هوش مصنوعی دقیقاً چه کاری میتواند انجام دهد، چگونه این کار را انجام میدهد و محدودیتهایش کجاست؟»
تفاوت مغز انسان و شبکه عصبی مصنوعی چیست؟
پرسشهای متداول
آیا هوش مصنوعی واقعاً میفهمد؟
در حال حاضر پاسخ قطعی و مورد توافقی برای اینکه مدلهای هوش مصنوعی دارای «فهم» به معنای انسانی هستند وجود ندارد. مدلها میتوانند رفتارهای بسیار پیچیده و هوشمندانهای نشان دهند، اما این موضوع لزوماً وجود تجربه ذهنی یا فهم انسانی را اثبات نمیکند.
آیا ChatGPT فقط کلمات بعدی را پیشبینی میکند؟
پیشبینی توکن بعدی بخش مهمی از آموزش بسیاری از مدلهای زبانی است، اما عملکرد مدلهای بزرگ به همین توضیح ساده محدود نمیشود. آنها میتوانند روابط و الگوهای پیچیدهای را در دادهها یاد بگیرند و از آنها برای انجام طیف گستردهای از وظایف استفاده کنند.
توهم هوش مصنوعی چیست؟
توهم هوش مصنوعی زمانی رخ میدهد که مدل محتوایی تولید میکند که از نظر ظاهری معتبر و روان است، اما بخشی از آن نادرست، ساختگی یا بدون پشتوانه واقعی است.
آیا هوش مصنوعی آگاهی دارد؟
هیچ اجماع علمی وجود ندارد که نشان دهد مدلهای هوش مصنوعی امروزی دارای آگاهی یا تجربه ذهنی مشابه انسان هستند. تشخیص آگاهی در یک سیستم مصنوعی نیز خود مسئلهای پیچیده و مورد بحث است.
تفاوت هوش مصنوعی و هوش انسانی چیست؟
هوش انسانی مجموعه گستردهای از تواناییها مانند یادگیری، ادراک، زبان، استدلال، تعامل اجتماعی و تجربه جهان است. سیستمهای هوش مصنوعی ممکن است در برخی وظایف عملکرد بسیار بالایی داشته باشند، اما این عملکرد را نباید بدون بررسی دقیق معادل هوش انسانی دانست.
تحقیق و تدوین مهدی گمرکی
