کشورهای یادشده در این بیانیه خواستار آن شدهاند که این فناوری جدید باید تحت هدایت، نظارت و کنترل انسان باقی بماند. علاوه بر این، این کشورها بر لزوم ایجاد یک نهاد نظارتی جهانی بر هوش مصنوعی تأکید کردند.
آلمان و ۲۱ کشور دیگر با صدور بیانیهای نسبت به پیشرفت هوش مصنوعی و خطرات قابل توجه آن برای امنیت هشدار دادند و خواستار مدیریت و نظارت بهتر بر مدلهای هوش مصنوعی شدند.
به گزارش ایرنا به نقل از روزنامه ولت، آلمان، استرالیا، کانادا، آفریقای جنوبی، کنیا، چندین کشور حوزه خلیج فارس و نیز چندین کشور اروپایی در این بیانیه که در اختیار نشریه «پولیتیکو» شریک رسانهای روزنامه «ولت» (WELT) آلمان قرار گرفته است، خواستار کنترل شدیدتر و ایجاد چارچوبهای نظارتی بر مدلهای هوش مصنوعی شدند.
کشورهای یادشده در این بیانیه خواستار آن شدهاند که این فناوری جدید باید تحت هدایت، نظارت و کنترل انسان باقی بماند. علاوه بر این، این کشورها بر لزوم ایجاد یک نهاد نظارتی جهانی بر هوش مصنوعی تأکید کردند.
این بیانیه در حاشیه مجمع عمومی سازمان ملل متحد که در هفته جاری در حال برگزاری است، تصویب شد.
این بیانیه با عنوان «فراخوانی برای کنترل مدلهای پیشرفته هوش مصنوعی» (سپتامبر ۲۰۲۶) تاکید میکند: در حالی که هوش مصنوعی پتانسیل بالایی برای بهبود زندگی، پیشرفت علمی و تقویت اقتصاد دارد، توسعه سریع «مدلهای پیشرفته هوش مصنوعی» (Frontier AI Models) اگر بهدرستی مدیریت نشود، خطرات امنیتی جدی ایجاد میکند.
تدوین پروتکلهای شفاف ایمنی، هماهنگی برای ایجاد استانداردهای مشترک جهانی و افزایش شفافیت از جمله محورهای مورد اشاره در این بیانیه است.
این کشورها خواستار آن هستند که فناوریهای جدید هوش مصنوعی «تحت هدایت، نظارت و کنترل انسان» باقی بمانند. علاوه بر این، آنها پیشنهاد ایجاد یک نهاد نظارتی جهانی بر هوش مصنوعی را مطرح کردهاند.
بر اساس این گزارش، این تلاشها (برای ایجاد چارچوب نظارتی هوش مصنوعی) پیش از دیدار رؤسای جمهور آمریکا و چین صورت میگیرد، چرا که این دو کشور سردمداران اصلی هوش مصنوعی در جهان هستند.
تحلیل خبر
انسان در مقابل هوش مصنوعی؛ کدامیک مسلط می شود؟
وحید جعفری زاده
انسان از دیرباز تلاش میکرده برای راحتی کار خود و انجام کارهایی که تا قبل از آن، ممکن نبوده طبیعت، اشیاء یا سازههایی که خود ابداع کرده را به خدمت بگیرد. گاهی اشیاء موجود در طبیعت مانند سنگ و درخت و آب و... را مورد استفاده قرار داده، زمانی حیوانات را رام و مطیع خود میکرده، گاهی با دستان خود ابزارهایی میساخته و حتی گاهی برخی انسانها، انسانهای دیگر را به استخدام خود (چه به اختیار، چه به زور) در میآوردهاند. ذات این نوع به خدمت گرفتن، همراه با کنترل گری است؛ چیزی که باعث می شود قدرت و کنترل انسان برگ برنده او باشد و در نهایت آنچه خواست و اختیار اوست رخ دهد. اما همیشه هم اینگونه نبوده؛ گاهی همان اشیاء، حیوانات و ابزارهای خودساخته، طغیان کرده و از کنترل انسانها خارج شدهاند که غالباً هم اتفاقات خوبی برای انسان کنترل گر رخ نداده است؛ اما مهم این است که تا کنون در نهایت انسان توانسته خود را غالب و مسلط کند.
اما با پیشرفت فناوری -که عامل اصلی آن خود انسان بوده- نیازهای جدیدی به وجود آمده و برای چیرگی بر این فناوریها و دست یافتن به چیزهایی تقریباً غیرممکن، انسان امروز به هوش مصنوعی رسیده است. سالها قبل از اینکه مفهوم هوش مصنوعی به معنای آنچه امروز میبینیم برسد، همان سالهایی که بیشتر تصور انسانها از هوش مصنوعی به رباتهای پیشرفته و هوشمند محدود بود، باز هم عدهای از آیندهای که ممکن است کامپیوترها و ماشینها بر انسان مسلط شوند و نسل بشر را تهدید کنند نگران بودند. گواه این مسئله ساخت برخی فیلمها از حدود 50 سال قبل است. زمانی که فیلمهایی نظیر نابودگر (Terminator)، ماتریکس (Matrix)، من ربات هستم
(I, Robot) و... ساخته شد. در تمام این فیلمها، نگرانی از جایی نشات میگیرد که کامپیوترها، به خودمختاری (Autonomy) میرسند. تا قبل از رسیدن هوش مصنوعی به قدرت فعلی، انسانها نگرانی خاصی نداشتند، چرا که به کامپیوترها و ماشینها در قالب برنامهها، دستور میدادند که چه کاری انجام دهند. یعنی دستوردهنده و کنترل گر مطلق، انسان بود. خودمختاری در هوش مصنوعی به این معناست که یک عامل هوش مصنوعی (AI Agent) بدون نیاز به اینکه لازم باشد به او گفته شود که چه کاری انجام دهد، خود توانایی یادگیری، تصمیم گیری و اجرای تصمیم را داشته باشد. دقیقاً همینجاست که نگرانیها به اوج میرسد؛ نگرانی از اینکه اگر انسان قدرت تسلط و تسخیر خود نسبت به کامپیوترها را از دست بدهد، چه اتفاقات ناگواری ممکن است رخ دهد؟ این مسئله به ویژه بعد از انتشار گزارشی مبنی بر تصمیم یک عامل هوش مصنوعی در حال تست در شرکت OpenAI برای هک یک سایت (Hugging Face) و استفاده از دادههای آن، وارد فاز جدیدی شد و حال به اینجا رسیده که ۲۲ کشور برای نظارت بر مدلهای هوش مصنوعی در حال تصمیم گیری هستند.
اینکه در آینده چه اتفاقی خواهد افتاد، هنوز مشخص نیست؛ اما میتوان گفت اگر هوش مصنوعی بتواند به مؤلفههای قدرت مانند پول، ابزار، اطلاعات، رسانه و در کنار آنها به لطف توانایی خیره کننده در تحلیل و تصمیم گیری به کمک مجموعه بسیار عظیمی از دادهها، دست پیدا کند و در آینده نیزاحتمالا با ساخته شدن رباتهای هوشمند توانایی مکانیکی و جنشی بیشتری به دست آورد، شاید بتواند انسانها را مسخّر کند.