به نقل از «عصر ایران»

خیال خام کنترل ایمن هوش مصنوعی

تاریخ انتشار: ۲۵ بهمن ۱۴۰۲ | کد خبر: ۳۹۷۵۰۵۸۵

یک متخصص در زمینه هوش مصنوعی، بررسی کاملی روی ادبیات علمی در مورد هوش مصنوعی انجام داده و به این نتیجه رسیده است که هیچ مدرکی برای حمایت از این تصور وجود ندارد که هوش مصنوعی را می‌توان به طور ایمن کنترل کرد.

علاوه بر این، حتی اگر مکانیسم‌ها یا روش‌هایی برای کنترل هوش مصنوعی پیشنهاد شده باشد، دکتر رومن وی یامپولسکی(Roman V.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!

Yampolskiy) معتقد است که این اقدامات برای تضمین ایمنی کافی نخواهند بود.

به نقل از آی‌ای، دکتر یامپولسکی دانشیار دانشگاه لوئیزویل(Louisville) است که نتایج تحقیقات خود را در کتابی با عنوان «هوش مصنوعی غیر قابل توضیح، غیر قابل پیش‌بینی، غیر قابل کنترل» منتشر کرده است.

به گزارش ایسنا، کار او در زمینه «ایمنی هوش مصنوعی» تا حدی توسط ایلان ماسک و موسسه آینده زندگی(FLI) که توسط مکس تِگمارک استاد دانشگاه MIT و ژان تالین یکی از بنیانگذاران اسکایپ تاسیس شده است، پشتیبانی شده است.

موسسه آینده زندگی همان موسسه‌ای است که برای توسعه ابزارهای هوش مصنوعی قدرتمندتر از GPT-4 درخواست کرد این پروژه با یک توقف شش ماهه روبرو شود.

نامه سرگشاده این موسسه توسط بیش از 33 هزار نفر از جمله ایلان ماسک، استیو وزنیاک هم‌بنیانگذار اپل، یوشوا بنجیو(Yoshua Bengio) پدرخوانده هوش مصنوعی و سایر کارشناسان امضا شده است.

نگرانی در مورد مدیریت و تنظیم مقررات در مقابل خطرات هوش مصنوعی

با نفوذ ابزارهای جدید هوش مصنوعی در بازار طی یک سال گذشته، دکتر یامپولسکی پیشنهاد می‌کند که سیستم‌های هوش مصنوعی پیشرفته به دلیل غیر قابل پیش‌بینی بودن و استقلال ذاتی، با وجود مزایای بالقوه‌شان، همیشه خطراتی را به همراه خواهند داشت.

دکتر یامپولسکی در یک بیانیه مطبوعاتی گفت: چرا بسیاری از پژوهشگران تصور می‌کنند که مشکل کنترل هوش مصنوعی قابل حل است؟ تا آنجا که ما می‌دانیم، هیچ گواهی برای آن وجود ندارد، هیچ مدرکی وجود ندارد. قبل از شروع تلاش برای ساخت یک هوش مصنوعی کنترل شده، مهم است که نشان دهیم مشکل قابل حل است.

وی افزود: این همراه با آماری که نشان می‌دهد توسعه اَبَرهوش مصنوعی یک رویداد تقریباً تضمین شده است، نشان می‌دهد که ما باید از تلاش‌های ایمنی قابل توجهی در زمینه هوش مصنوعی حمایت کنیم.

توسعه ابرهوش مصنوعی اجتناب ناپذیر است

از آنجایی که هوش مصنوعی در حالت ابرهوشمندی می‌تواند به تنهایی یاد بگیرد، تطبیق یابد و به صورت نیمه مستقل عمل کند، اطمینان از ایمن بودن آن، به ویژه با وجود افزایش قابلیت‌های آن به طور فزاینده‌ای چالش برانگیز می‌شود.

می‌توان گفت که هوش مصنوعی فوق هوشمند «ذهن» خود را خواهد داشت. پس چگونه آن را کنترل کنیم؟ آیا قوانین رباتیک آیزاک آسیموف که رفتار اخلاقی بین انسان و ربات را برقرار می‌کند، هنوز در دنیای امروز اعمال می‌شود؟

دکتر یامپولسکی که حوزه اصلی مورد علاقه او ایمنی هوش مصنوعی است، توضیح داد: ما با یک رویداد تقریبا تضمین شده با پتانسیل ایجاد یک فاجعه وجودی روبرو هستیم.

وی افزود: جای تعجب نیست که بسیاری این را مهم‌ترین مشکلی که بشریت تا به حال با آن روبرو بوده است، توصیف می‌کنند. نتیجه می‌تواند رفاه یا انقراض بشر باشد.

یکی از چالش‌های اصلی، تصمیم‌گیری‌های بالقوه و شکست موجودات فوق‌ هوشمند است که پیش‌بینی و تهدید آنها را دشوار می‌کند.

علاوه بر این، فقدان قابلیت توضیح در تصمیمات هوش مصنوعی نگرانی‌هایی را ایجاد می‌کند، زیرا درک این تصمیمات برای کاهش تصادفات و تضمین نتایج بدون سوگیری، به ویژه در زمینه‌های حیاتی مانند مراقبت‌های بهداشتی و مالی که هوش مصنوعی در آن نفوذ کرده است، بسیار مهم است.

با افزایش استقلال هوش مصنوعی، کنترل انسان روی آن کاهش می‌یابد که منجر به نگرانی‌های ایمنی می‌شود. دکتر یامپولسکی ایجاد تعادل بین توانایی و کنترل هوش مصنوعی را پیشنهاد و اذعان می‌کند که ابرهوش ذاتاً فاقد قابلیت کنترل است.

وی همچنین درباره اهمیت همسویی هوش مصنوعی با ارزش‌های انسانی بحث می‌کند و روش‌هایی را برای به حداقل رساندن خطرها مانند اصلاح‌پذیری، شفافیت هوش مصنوعی و طبقه‌بندی به عنوان قابل کنترل یا غیرقابل کنترل پیشنهاد می‌کند.

با وجود این چالش‌ها، دکتر یامپولسکی ادامه تحقیقات و سرمایه‌گذاری در ایمنی و امنیت هوش مصنوعی را تشویق و تأکید می‌کند که اگرچه دستیابی به هوش مصنوعی صد درصد ایمن ممکن است دست نیافتنی باشد، اما تلاش برای بهبود ایمنی آن همواره ارزشمند است.

کانال عصر ایران در تلگرام

منبع: عصر ایران

کلیدواژه: هوش مصنوعی ایمن هوش مصنوعی غیر قابل

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.asriran.com دریافت کرده‌است، لذا منبع این خبر، وبسایت «عصر ایران» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۹۷۵۰۵۸۵ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

خانه های امامزاده ابراهیم شفت ایمن سازی می شود

به گزارش خبرگزاری مهر، اسدالله عباسی ضمن حضور در بین مردم آسیب دیده از این آتش سوزی و شنیدن مسائل آنها در گفت و گو با خبرنگاران اظهار کرد: آتش سوزی رخ داده در روستای امامزاده ابراهیم شهرستان شفت به بیش از ۱۰۰ واحد تجاری و مسکونی این روستا که عموماً سازه‌های چوبی بودند آسیب زد.

وی با بیان اینکه تعدادی از این واحدها بیمه هستند، افزود: بخش زیادی از آنها فاقد پوشش بیمه‌ای می‌باشند که با توجه به وضعیت روستا و خسارت وارده به منطقه از ابتدای وقت امروز فرماندار شهرستان شفت، مدیرکل مدیریت بحران استان و مدیران حوزه زیرساختی گیلان در بین مردم و محل حادثه حضور یافته و وضعیت را برای رفع مشکلات خسارت دیدگان از این حریق بررسی کردند.

وی با تاکید بر اینکه هلال احمر موضوع اسکان اضطراری، تأمین اقلام ضروری و غذای گرم برای این خانوارها را آغاز کرده است، افزود: به زودی کار آوار برداری شروع می‌شود.

عباسی تصریح کرد: گزارشی هم از این حادثه و وضعیت خسارت دیدگان به وزارت کشور و رئیس محترم جمهور ارائه می‌کنیم و کمک‌هایی به صورت بلاعوض و در قالب تسهیلات برای ساخت منازل مسکونی و واحدهای تجاری مردم تأمین خواهیم کرد.

وی اضافه کرد: با توجه به آتش سوزی‌های مکرری که در این منطقه طی سال‌های از ۱۳۷۵، ۱۳۹۲، ۱۳۹۶ و نیز نیمه شب گذشته رخ داده باید این منطقه و خانه‌های آن ایمن سازی شود.

نماینده عالی دولت در گیلان تصریح کرد: باید سازه‌ها بتنی یا فلزی و بر اساس اصول و قواعد نظام مهندسی احداث شود و بدین منظور اعتباراتی هم داده شود تا این امر محقق شود و شاهد اتفاقاتی از این دست نباشیم.

استاندار گیلان ادامه داد: این منطقه کوهستانی و شاهد وزش بادهای شدید است که برای جلوگیری از اتفاقات مشابه باید در زمینه شیوه‌های ساخت و ساز تجدید نظر شود و حتماً این امر انجام خواهد شد.

وی با بیان اینکه شرکت‌های آب و برق هم اینک مشغول رفع مشکلات هستند، گفت: پروژه گازرسانی به روستا هم مراحل پایانی خود را طی می‌کند و به زودی مردم آن از گاز طبیعی برخوردار می‌شود و همچنین راه دسترسی روستا هم بعد از بازسازی اصلاح می‌شود.

کد خبر 6095358