هوش مصنوعی خودبهبودبخش؛ پایان عصر مهندسی انسان؟
هوش مصنوعی خودبهبودبخش
پایان عصر مهندسی انسان؛ با هوش مصنوعی خودبهبودبخش آشنا شوید
سالها یک تصور ساده اما عمیق درباره هوش مصنوعی داشتیم: انسان ماشین را میسازد، انسان آن را آموزش میدهد، انسان خطاهایش را پیدا میکند و در نهایت انسان نسخه بعدی و بهتر آن را طراحی میکند.
اما اگر این زنجیره یک روز شکسته شود چه؟
به گزارش خبرICT اگر ماشین فقط پاسخگوی ما نباشد، بلکه بتواند کدهای خودش را بررسی کند، روشهای بهتر را پیشنهاد دهد، آزمایش کند، نتیجه را ارزیابی کند و بخشی از نسخه بعدی خودش را بسازد، دیگر با همان هوش مصنوعی آشنای امروز روبهرو نیستیم.
اینجاست که مفهوم هوش مصنوعی خودبهبودبخش یا Recursive Self-Improvement وارد داستان میشود.
و به نظر من، اتفاق مهمی که در حال رخ دادن است، «پایان هوش مصنوعی ساختهشده توسط انسان» نیست؛ بلکه پایان انحصار انسان بر فرایند مهندسی هوش مصنوعی است.
تحقیق و تدوین : مهدی گمرکی
ایده ماشین خودبهبودبخش از کجا آمد؟
ایده اینکه یک ماشین بتواند در ساخت نسخه بهتر خودش نقش داشته باشد، متعلق به دوران ChatGPT و مدلهای زبانی نیست.
از نخستین دهههای شکلگیری هوش مصنوعی، پژوهشگران به این فکر میکردند که آیا میتوان سیستمی ساخت که از تجربههای خود یاد بگیرد و عملکردش را بهتر کند.
در دهههای ۱۹۵۰ و ۱۹۶۰، نمونههایی از سیستمهای یادگیرنده و خودبهبوددهنده شکل گرفتند. برای مثال، برنامه بازی چکرز آرتور ساموئل از طریق بازی با خودش تواناییاش را بهبود میداد؛ یکی از نمونههای اولیه مهم یادگیری ماشینی از تجربه.
بعدها، این ایده در قالبهای پیچیدهتر ادامه پیدا کرد؛ از الگوریتمهای تکاملی و AutoML گرفته تا یادگیری تقویتی، سیستمهای خودارزیاب و در سالهای اخیر، مدلهایی که میتوانند در تولید و ارزیابی کد و طراحی سیستمهای هوش مصنوعی مشارکت کنند.
اما یک تفاوت اساسی وجود دارد.
ماشینهای قدیمیتر عمدتاً در یک مسئله مشخص بهتر میشدند.
هوش مصنوعی امروز کمکم وارد قلمروی دیگری شده است:
بهبود خود فرایند ساخت هوش مصنوعی.
و همین نقطه است که ماجرا را جدی میکند.
هوش مصنوعی خودبهبودبخش دقیقاً چیست؟
برای درک سادهتر موضوع، تصور کنید یک برنامهنویس انسانی یک مدل هوش مصنوعی ساخته است.
در حالت معمول:
۱. انسان مدل را طراحی میکند.
۲. انسان کد را مینویسد.
۳. انسان مدل را آموزش میدهد.
۴. انسان نتایج را بررسی میکند.
۵. انسان نقاط ضعف را پیدا میکند.
۶. انسان نسخه جدید را میسازد.
اما در یک سیستم خودبهبودبخش، بخشی از این چرخه میتواند به خود سیستم واگذار شود.
مدل میتواند:
- کد را تحلیل کند؛
- خطاها را پیدا کند؛
- راهحلهای جدید پیشنهاد دهد؛
- چند راهحل را آزمایش کند؛
- نتایج را با معیارهای مشخص مقایسه کند؛
- روش مؤثرتر را انتخاب کند؛
- و از تجربه حاصل برای دور بعدی استفاده کند.
اگر این چرخه بارها و بارها ادامه پیدا کند، با چیزی مواجه میشویم که به آن خودبهبودی بازگشتی گفته میشود.
در سادهترین شکل:
مدل >>> بهبود >>> مدل بهتر >>> بهبود دوباره >>> مدل بهتر
البته این تعریف ساده نباید ما را به یک برداشت اشتباه برساند.
امروز هنوز ماشینها بهصورت نامحدود و بدون محدودیت، خودشان را طراحی نمیکنند.
پژوهشهای جدید نیز تأکید میکنند که میان «خوداصلاح محدود» و «خودبهبودی بازگشتی کاملاً خودمختار» فاصله قابلتوجهی وجود دارد.
تجربهای که نگاه ما به برنامهنویسی را تغییر میدهد
در تجربه کار با ابزارهای هوش مصنوعی برای برنامهنویسی، یک اتفاق به ظاهر ساده اما بسیار مهم رخ داده است.
زمانی که یک خطای برنامه را پیدا میکردیم، انتظار داشتیم ماشین فقط توضیح بدهد مشکل کجاست.
امروز میتوانیم کد را در اختیار یک مدل قرار دهیم و از آن بخواهیم:
«خطا را پیدا کن، علتش را توضیح بده، راهحل ارائه کن، تست بنویس و دوباره بررسی کن.»
چند سال قبل، این فرایند بخش بزرگی از کار یک برنامهنویس بود.
امروز بخشی از آن را ماشین انجام میدهد.
اما اتفاق مهمتر زمانی رخ میدهد که سیستم از یک اصلاح منفرد عبور کند و بتواند روش حل مسئله خودش را نیز بهتر کند.
در این نقطه، نقش انسان از «نویسنده تمام کدها» به «طراح هدف، ناظر، ارزیاب و معمار سیستم» تغییر میکند.
به اعتقاد من، همین تغییر بسیار مهمتر از افزایش تعداد خطوط کدی است که هوش مصنوعی میتواند تولید کند.
آیا واقعاً به نقطه خودبهبودی بازگشتی رسیدهایم؟
نه؛ دستکم نه به معنای کامل و افراطی آن.
این همان جایی است که باید میان هیجان رسانهای و واقعیت فنی فاصله بگذاریم.
هوش مصنوعی امروز میتواند در بخشهایی از توسعه هوش مصنوعی به انسان کمک کند. حتی برخی آزمایشگاههای پیشرو، بخش بیشتری از کارهای تحقیق و توسعه را به سیستمهای هوش مصنوعی واگذار میکنند.
Anthropic در گزارش خود درباره خودبهبودی بازگشتی میگوید این روند در حال افزایش است و هوش مصنوعی میتواند به شکل فزایندهای در توسعه نسلهای بعدی سیستمهای هوش مصنوعی مشارکت کند؛ با این حال، این شرکت تأکید میکند که هنوز به خودبهبودی بازگشتی کامل نرسیدهایم.
IEEE Spectrum نیز وضعیت فعلی را بیشتر یک طیف از خودبهبودی میداند تا یک جهش ناگهانی به ماشین کاملاً خودمختار. سیستمهای فعلی میتوانند در ساخت هوش مصنوعی بهتر کمک کنند، اما همچنان انسانها در تعیین هدف، تعریف معیار موفقیت و تصمیمگیری درباره تغییرات نقش دارند.
بنابراین اگر کسی بگوید «هوش مصنوعی همین حالا خودش را بهطور کامل بازطراحی میکند»، این جمله بیشتر از آنکه یک توصیف دقیق علمی باشد، یک سادهسازی هیجانانگیز است.
اما اگر کسی بگوید «هیچ بخشی از فرایند خودبهبودی هنوز اتفاق نیفتاده»، آن هم با واقعیت امروز سازگار نیست.
واقعیت بین این دو قرار دارد؛ و اتفاقاً همین وضعیت از همه مهمتر است.
چرا این موضوع تا این اندازه مهم است؟
چون سرعت پیشرفت فناوری دیگر فقط به تعداد مهندسان یک شرکت وابسته نیست.
فرض کنید یک تیم تحقیقاتی ۱۰۰ مهندس دارد و هر مهندس میتواند بخشی از فرایند تحقیق را سریعتر انجام دهد.
حالا اگر همان تیم بتواند از سیستمهایی استفاده کند که بخشی از وظایف تحقیق، آزمایش، کدنویسی، ارزیابی و تحلیل را خودکار کنند، ظرفیت تیم افزایش پیدا میکند.
اگر این سیستمها بتوانند خود ابزارهای مورد استفاده برای توسعه مدل را نیز بهبود دهند، یک حلقه شکل میگیرد:
هوش مصنوعی بهتر >>> ابزارهای بهتر >>> تحقیق سریعتر >>> هوش مصنوعی بهتر
این حلقه همان چیزی است که مفهوم خودبهبودی بازگشتی را جذاب و در عین حال نگرانکننده میکند.
پژوهشهای منتشرشده در سال ۲۰۲۶ نیز تلاش کردهاند همین مسیر را از «خوداصلاح محدود» تا حلقههای تحقیقاتی خودکار و بسته بررسی کنند و نشان میدهند که هنوز محدودیتهایی مانند نیاز به ارزیابی قابلاعتماد، منابع محاسباتی و خطر حلقههای خودتأییدکننده وجود دارد.
اینجا پایان مهندسی انسان نیست
من با تیترهایی که میگویند «از فردا هوش مصنوعی جای همه مهندسان را میگیرد» موافق نیستم.
این تصویر بیش از حد ساده است.
اما با یک گزاره دیگر کاملاً موافقم:
دوران انحصار انسان بر مهندسی هوش مصنوعی در حال پایان است.
این دو جمله تفاوت زیادی با یکدیگر دارند.
مهندس آینده الزاماً کسی نیست که بیشترین کد را خودش بنویسد.
ممکن است مهندس آینده کسی باشد که بتواند:
- مسئله درست را تعریف کند؛
- هدف قابل اندازهگیری تعیین کند؛
- سیستمهای هوش مصنوعی را هدایت کند؛
- خروجی آنها را ارزیابی کند؛
- خطاهای پنهان را تشخیص دهد؛
- معماری مناسب را انتخاب کند؛
- و مهمتر از همه، مشخص کند چه چیزی نباید به ماشین واگذار شود.
این تغییر، حذف انسان نیست.
تغییر جایگاه انسان است.
بزرگترین خطر کجاست؟
خطر اصلی این نیست که یک ماشین ناگهان «باهوش» شود.
خطر واقعی زمانی ایجاد میشود که سرعت بهبود سیستم از توانایی ما برای ارزیابی آن جلو بزند.
فرض کنید یک سیستم بتواند هر روز چندین نسخه متفاوت از یک الگوریتم را تولید و آزمایش کند.
اگر معیار ارزیابی آن ناقص باشد، ممکن است سیستم به جای بهتر شدن، فقط یاد بگیرد چگونه معیار ما را فریب دهد.
این مسئله اهمیت ارزیابها، تستها، محیطهای کنترلشده و نظارت انسانی را دوچندان میکند.
در یک سیستم خودبهبودبخش، سؤال فقط این نیست که:
«آیا نسخه جدید بهتر است؟»
سؤال دشوارتر این است:
«چه کسی تعیین کرده که این نسخه بهتر است؟»
و شاید این مهمترین سؤال کل بحث باشد.
اگر ماشین بتواند ماشین بعدی را بسازد چه میشود؟
اینجا وارد قلمرویی میشویم که سالها موضوع بحث پژوهشگران هوش مصنوعی بوده است.
اگر یک سیستم بتواند نسخه بعدی خود را طراحی کند و نسخه بعدی نیز بتواند نسخهای بهتر از خودش بسازد، یک چرخه بازگشتی شکل میگیرد.
اما این چرخه الزاماً به معنای یک «انفجار هوش» فوری نیست.
سرعت پیشرفت همچنان به عواملی مانند توان محاسباتی، داده، الگوریتم، کیفیت ارزیابی، محدودیتهای سختافزاری و توانایی سیستم برای تشخیص درست و غلط وابسته خواهد بود.
با این حال، حتی یک خودبهبودی محدود نیز میتواند پیامدهای بزرگی داشته باشد.
زیرا تفاوت میان انسانی که یک ابزار را استفاده میکند و ماشینی که در ساخت نسل بعدی ابزار نقش دارد، تفاوت کوچکی نیست.
برنامهنویس حذف نمیشود؛ نقش او تغییر میکند
یکی از نخستین حوزههایی که اثر این تحول را به شکل جدی احساس میکند، برنامهنویسی است.
کدنویسی دیگر تنها فعالیتی برای تبدیل یک ایده انسانی به دستورهای کامپیوتری نیست.
در حال حرکت به سمت دورهای هستیم که در آن انسان میتواند مسئله را تعریف کند و مجموعهای از عاملهای هوش مصنوعی بخش بزرگی از طراحی، پیادهسازی، تست و اصلاح را انجام دهند.
اما همین موضوع یک مهارت جدید ایجاد میکند:
توانایی قضاوت درباره کدی که خودمان ننوشتهایم.
این مهارت در آینده احتمالاً از توانایی تایپ سریع کد مهمتر خواهد بود.
زیرا اگر ماشین بتواند هزاران خط کد تولید کند، ارزش انسان دیگر در تولید همان هزاران خط نیست.
ارزش انسان در تشخیص این است که:
- کدام خط لازم است؟
- کدام خط خطرناک است؟
- کدام معماری درست است؟
- کدام خروجی واقعاً مسئله را حل میکند؟
و چه چیزی را نباید به ماشین سپرد؟
یک تغییر بزرگ در مفهوم «مهندس»
برای مدت طولانی، مهندسی یعنی ساختن.
اما در عصر هوش مصنوعی خودبهبودبخش، مهندسی به تدریج به معنای طراحی سیستمهایی برای ساختن تبدیل میشود.
این تفاوت ظریف نیست.
یک مهندس ممکن است به جای نوشتن مستقیم تمام کد، محیطی بسازد که در آن چند عامل هوش مصنوعی کد تولید کنند، یک عامل دیگر آن را تست کند، عامل دیگری آسیبپذیریها را پیدا کند و یک سیستم ارزیابی مستقل، نتیجه را بررسی کند.
در این مدل، انسان دیگر تنها سازنده نیست.
او طراح کارخانهای است که ماشینها در آن به ساختن و بهبود دادن ادامه میدهند.
و این، به نظر من، یکی از عمیقترین تغییرات تاریخ مهندسی است.
آیا باید از این آینده ترسید؟
ترس بهتنهایی پاسخ مناسبی نیست.
هیجان هم پاسخ مناسبی نیست.
آنچه لازم داریم، کنترل آگاهانه سرعت و دامنه خودکارسازی است.
اگر قرار باشد هوش مصنوعی در فرایند ساخت هوش مصنوعی نقش بیشتری داشته باشد، باید همزمان ابزارهای ارزیابی، نظارت، امنیت و کنترل نیز رشد کنند.
چون نمیتوانیم صرفاً بگوییم:
«ماشین بهتر شد، پس نتیجه بهتر است.»
باید بدانیم چگونه بهتر شد، چرا بهتر شد و آیا این بهبود در همان جهتی است که انسان تعیین کرده است یا نه.
قضاوت نهایی: این یک انقلاب واقعی است، نه یک مد رسانهای
اگر بخواهم بدون تعارف قضاوت کنم، معتقدم بحث هوش مصنوعی خودبهبودبخش را نباید در ردیف موجهای تبلیغاتی معمول هوش مصنوعی قرار داد.
ممکن است هنوز با نسخه کامل و خودمختار آن فاصله داشته باشیم؛ شواهد فعلی نیز همین را نشان میدهد.
اما چیزی بنیادی تغییر کرده است:
هوش مصنوعی دیگر فقط موضوع مهندسی انسان نیست؛ خودش دارد به بخشی از فرایند مهندسی هوش مصنوعی تبدیل میشود.
و همین، مرز میان «ابزار» و «همکار مهندسی» را جابهجا میکند.
به نظر من، عنوان واقعی این تحول نباید «پایان مهندسی انسان» باشد.
عنوان دقیقتر این است:
پایان دورانی که انسان تنها مهندس هوش بود.
از اینجا به بعد، رقابت فقط بر سر ساخت مدلهای قدرتمندتر نیست.
رقابت بر سر ساخت سیستمهایی است که بتوانند بهتر فکر کنند، بهتر آزمایش کنند، بهتر ارزیابی کنند و در نهایت بهتر از نسل قبلی خودشان ساخته شوند.
و اگر این روند ادامه پیدا کند، شاید مهمترین پرسش دهه آینده دیگر این نباشد که:
«هوش مصنوعی چه کاری میتواند برای انسان انجام دهد؟»
بلکه این باشد:
«وقتی هوش مصنوعی در ساخت نسل بعدی هوش مصنوعی شریک شد، انسان دقیقاً چه نقشی خواهد داشت؟»
پاسخ این سؤال هنوز قطعی نیست.
اما یک چیز قطعی است:
ما وارد دورهای شدهایم که در آن سرعت تکامل هوش مصنوعی فقط به سرعت مهندسان انسانی وابسته نخواهد بود.
سوالات متداول درباره هوش مصنوعی خودبهبودبخش
هوش مصنوعی خودبهبودبخش چیست؟
هوش مصنوعی خودبهبودبخش به سیستمهایی گفته میشود که میتوانند بخشی از فرایند ارزیابی، اصلاح یا بهینهسازی عملکرد خود را انجام دهند. در شکل پیشرفتهتر، سیستم میتواند در بهبود فرایند ساخت نسل بعدی سیستمهای هوش مصنوعی نیز نقش داشته باشد.
آیا هوش مصنوعی امروز میتواند خودش را بهطور کامل ارتقا دهد؟
خیر. سیستمهای امروزی میتوانند در بخشهایی مانند تولید کد، آزمایش، ارزیابی و اصلاح به انسان کمک کنند، اما خودبهبودی بازگشتی کاملاً خودمختار و نامحدود هنوز یک واقعیت تثبیتشده نیست.
خودبهبودی بازگشتی یا Recursive Self-Improvement چیست؟
خودبهبودی بازگشتی به چرخهای اشاره دارد که در آن یک سیستم به بهبود خود یا فرایند ساخت نسخه بهتر از خودش کمک میکند و نسخه بهبودیافته نیز میتواند در مرحله بعدی برای بهبود بیشتر مورد استفاده قرار گیرد.
آیا خودبهبودی هوش مصنوعی به معنای حذف مهندسان است؟
نه لزوماً. یکی از تغییرات مهم میتواند جابهجایی نقش مهندس باشد؛ از انجام مستقیم همه مراحل ساخت به سمت طراحی سیستم، تعیین اهداف، ارزیابی خروجیها، کنترل کیفیت و نظارت بر عاملهای هوش مصنوعی.
چرا هوش مصنوعی خودبهبودبخش اهمیت دارد؟
زیرا اگر هوش مصنوعی بتواند در توسعه و بهینهسازی سیستمهای هوش مصنوعی نقش بیشتری داشته باشد، سرعت و مقیاس فرایند تحقیق و توسعه میتواند تغییر کند. در چنین شرایطی، ارزیابی، امنیت و نظارت انسانی اهمیت بیشتری پیدا میکنند.
آیا هوش مصنوعی میتواند نسل بعدی هوش مصنوعی را بسازد؟
هوش مصنوعی همین حالا میتواند در بخشهایی از فرایند توسعه مانند تولید و بررسی کد، طراحی آزمایشها و تحلیل نتایج مشارکت کند. اما ساخت کامل و مستقل نسل بعدی هوش مصنوعی همچنان به زیرساخت، اهداف، ارزیابی و تصمیمگیری انسانی وابسته است.
آینده مهندسی در عصر هوش مصنوعی چگونه خواهد بود؟
یکی از سناریوهای مهم، حرکت از «ساخت مستقیم» به سمت «طراحی سیستمهایی برای ساختن» است؛ یعنی مهندس بیشتر نقش معمار، ناظر، طراح فرایند و ارزیاب سیستمهای هوش مصنوعی را بر عهده بگیرد.
