توسعه هوش مصنوعی چگونه جهان را تحت تأثیر قرار می‌دهد؟
1
سم آلتمن، مدیرعامل و بنیان‌گذار OpenAI، که میزبان ChatGPT است، اظهار داشت که «هوش عمومی مصنوعی» (AGI) که دارای هوشی شبیه به انسان و توانایی یادگیری خودکار است، سریع‌تر از آنچه جهان انتظار دارد، توسعه خواهد یافت.
سم آلتمن، مدیرعامل و بنیان‌گذار OpenAI، در اجلاس DealBook نیویورک تایمز شرکت کرد.
محصول OpenAI، یعنی ChatGPT، درک جهانیان از هوش مصنوعی را تغییر داده است. این فناوری در عین حال سؤالات جدیدی درباره هوش عمومی مصنوعی (AGI) ایجاد کرده است؛ سیستمی که تلاش می‌کند نرم‌افزارهایی با هوشی شبیه انسان و توانایی آموزش خودکار توسعه دهد.
آلتمن درباره پیشرفت‌های هوش مصنوعی و AGI به سؤالات اندرو راس سورکین از نیویورک تایمز پاسخ داد:
گفتگو با سم آلتمن
سورکین: به نظر می‌رسد که شما به هدف خود در زمینه هوش عمومی مصنوعی (AGI) نزدیک شده‌اید. آیا این درست است؟
آلتمن: ما زودتر از آنچه اکثر مردم تصور می‌کنند به AGI خواهیم رسید، اما این به آن اندازه که انتظار می‌رود، یک اتفاق بزرگ نخواهد بود. علاوه بر این، بسیاری از نگرانی‌های امنیتی که ما و دیگران به آنها اشاره کرده‌ایم، در واقع با AGI مطرح نمی‌شوند. به عبارت دیگر، AGI ممکن است توسعه یابد، اما جهان به طور کلی به همان شکل ادامه خواهد یافت؛ اقتصاد سریع‌تر حرکت می‌کند و کارها رشد می‌کنند. از AGI تا چیزی که به آن «فراهوش» می‌گوییم، یک فرایند طولانی وجود دارد.
سورکین: یعنی چیزی که باید واقعاً نگران آن باشیم، فراهوش است؟
آلتمن: فکر می‌کنم حتی با AGI هم چیزهایی برای نگرانی وجود دارد. پیش‌بینی می‌کنم تحول اقتصادی بیشتر از آنچه مردم انتظار دارند، طول بکشد، زیرا نوعی توقف در جامعه وجود دارد. اما این تحول شدیدتر از پیش‌بینی‌ها خواهد بود. در چند سال اول شاید تغییرات زیادی مشاهده نشود، اما پس از آن ممکن است تغییرات جدی در اقتصاد رخ دهد.
من به این ترس که مفهوم کار به طور کامل پایان می‌یابد، باور ندارم؛ ما همیشه چیزی برای انجام دادن پیدا می‌کنیم. با این حال، مانند هر انقلاب فناوری بزرگی، تغییرات زیادی در مشاغل اتفاق می‌افتد. با این تفاوت که این بار سرعت تغییر بسیار بیشتر خواهد بود. بنابراین، در کوتاه‌مدت مواردی برای نگرانی وجود دارد.
لزوم هماهنگی جهانی
سورکین: آیا فکر می‌کنید که دولت یا کسی راهی برای پیشگیری از این مسائل پیدا می‌کند؟
من معتقدم که محققان برای حل این مسائل راه‌حل‌هایی خواهند یافت. اما باید بگویم: معتقدم که مجموعه‌ای از مشکلات فنی وجود دارد که در آن بهترین ذهن‌های جهان کار خواهند کرد. طبیعتم کمی بیش از حد خوش‌بین است، اما فرض می‌کنم که آنها این مشکلات را حل خواهند کرد.
ما کارهای زیادی پیش رو داریم، اما در عین حال یک رشته علمی فوق‌العاده به نام «یادگیری عمیق» داریم که می‌تواند به حل این مشکلات سخت کمک کند. مسائل اجتماعی پیرامون AGI مربوط به سیستمی که چند سال آینده ظهور می‌کند و توانایی انجام بسیاری از کارها و ایجاد ارزش اقتصادی را دارد، نیست، بلکه مربوط به فراهوش واقعی است؛ سیستمی که نه فقط از شما یا من، بلکه از همه ما باهوش‌تر و بسیار تواناتر است.
اگر بتوانیم این فناوری را به صورت ایمن طراحی کنیم، مجبور خواهیم شد به دولت‌ها اعتماد کنیم. سیاست‌هایی در این زمینه توسعه خواهد یافت و هماهنگی جهانی لازم خواهد بود. من فکر می‌کنم که با این شرایط سازگار خواهیم شد، اما می‌پذیرم که این کار دشوار خواهد بود.
مسائل مربوط به اعتماد و امنیت
سورکین: درباره اعتماد، برخی می‌گویند که به اندازه کافی روی امنیت تمرکز نشده است. نظر شما چیست؟ به نظر شما چه چیزی کم است؟
آلتمن: به نظر من می‌توان به سوابق ما نگاه کرد. می‌توانم بگویم که ما یک محصول بزرگ داریم و این یک فناوری بسیار جدید و سریع‌الرشد است. در ابتدا نمی‌دانستیم که چگونه باید آن را به درستی تنظیم کنیم. اما در حال حاضر، بخش بزرگی از جامعه این فناوری را قابل قبول، ایمن و قابل اعتماد می‌داند.
امنیت همواره قراردادی است که بین بسیاری از ذی‌نفعان مذاکره می‌شود. شاید توضیح اینکه ChatGPT تا چه حد ایمن است، کمی دشوار باشد.
سورکین: اما دلیل طرح این سؤال این است که برخی از افرادی که از سازمان شما جدا شده‌اند، گفته‌اند: «این افراد به امنیت توجه نمی‌کنند.» آیا این به کمبود منابع، توان پردازشی یا عدم تمرکز مربوط است؟
آلتمن: قطعاً افرادی هستند که فکر می‌کنند ChatGPT به اندازه کافی ایمن نیست و کارهایی که نباید انجام دهد را انجام می‌دهد یا آنچه باید انجام دهد را انجام نمی‌دهد. برخی می‌گویند: «خُب، ChatGPT ممکن است کمی ایمن‌تر از انتظار باشد، اما برای سیستم‌های بعدی چه برنامه‌ای داریم؟»
ما معتقدیم که معرفی تدریجی این سیستم‌ها به جهان بسیار مهم است. ما باید این سیستم‌ها را به جامعه معرفی کنیم تا فناوری و جامعه بتوانند با هم تکامل یابند.
باید زمانی که خطرات کمتر است، شروع کنیم. باید بفهمیم که مردم چگونه از این سیستم استفاده می‌کنند، چه چیزهایی کار نمی‌کند و چه چیزهایی مؤثر است. برخی افراد ممکن است بگویند: «بله، برخی مزایا وجود دارد، اما هزینه آن ارزشش را ندارد.»
گزارش نیویورک تایمز توسط اندرو راس سورکین
