نسیم گیلان

آخرين مطالب

«متا» توسعه هوش مصنوعی را متوقف می‌کند علمي

«متا» توسعه هوش مصنوعی را متوقف می‌کند
  بزرگنمايي:

نسیم گیلان - ایسنا / «مارک زاکربرگ»(Mark Zuckerberg)، مدیرعامل شرکت «متا»(Meta) متعهد شده است هوش مصنوعی جامع را که تقریبا به عنوان هوش مصنوعی با توانایی‌های یک انسان در انجام دادن کارها تعریف می‌شود، یک روز به طور آشکار در دسترس قرار دهد، اما این شرکت در یک سند پیرامون سیاست جدید خود گفته شرایط خاصی وجود دارد که ممکن است باعث شوند متا سیستم هوش مصنوعی بسیار توانمند خود را منتشر نکند.
به نقل از تک کرانچ، این سند که متا آن را «Frontier AI Framework» نامیده است، دو نوع سیستم هوش مصنوعی را شناسایی می‌کند و گفته شده شرکت، انتشار آنها را بسیار خطرناک می‌داند. این دو سیستم، سیستم‌های پرخطر و سیستم‌های بحرانی نام دارند.
به گفته متا، سیستم‌های پرخطر و بحرانی می‌توانند به امنیت سایبری، حملات شیمیایی و بیولوژیکی کمک کنند. تفاوت آنها در این است که سیستم‌های بحرانی می‌توانند به یک نتیجه فاجعه‌آمیز منجر شوند که قابل کاهش نیست. در مقابل، سیستم‌های پرخطر ممکن است انجام دادن یک حمله را آسان‌تر کنند، اما نه به اندازه یک سیستم بحرانی.
متا اذعان می‌کند که فهرست فاجعه‌های احتمالی در سند کامل نیست، اما مواردی را شامل می‌شود که متا معتقد است فوری‌ترین و محتمل‌ترین آنها هستند و در نتیجه انتشار مستقیم یک سیستم هوش مصنوعی قوی به وجود می‌آیند.
موضوع تعجب‌آور این است که بر اساس این سند، متا خطر سیستم را بر اساس هیچ کدام از آزمایش‌های تجربی طبقه‌بندی نمی‌کند، بلکه طبقه‌بندی را بر اساس داده‌های ارائه‌شده توسط پژوهشگران داخلی و خارجی انجام می‌دهد که توسط تصمیم‌گیرندگان ارشد بررسی می‌شوند. متا می‌گوید که معتقد نیست علم ارزیابی به اندازه کافی قوی باشد تا معیارهای کمی قطعی را برای تصمیم‌گیری درباره خطرپذیری یک سیستم ارائه دهد.
متا می‌گوید اگر تشخیص دهد که یک سیستم پرخطر است، دسترسی به آن را به صورت داخلی محدود می‌کند و تا زمانی که اقدامات کاهشی را برای کاهش خطر به سطوح متوسط ​​انجام ندهد، آن را منتشر نخواهد کرد. از سوی دیگر، متا می‌گوید اگر یک سیستم خطرناک تلقی شود، حفاظت‌های امنیتی نامشخصی را برای جلوگیری از نفوذ به سیستم اجرا خواهد کرد و توسعه را متوقف خواهد ساخت تا زمانی که خطر آن کاهش یابد.
سند Frontier AI Framework متا که به گفته شرکت، با تغییر چشم‌انداز هوش مصنوعی تکامل خواهد یافت و متا پیشتر به انتشار آن پیش از اجلاس «France AI Action Summit» در ماه جاری میلادی متعهد شده بود، به نظر می‌رسد پاسخی به انتقاد از رویکرد باز این شرکت برای توسعه سیستم باشد. متا بر خلاف شرکت‌هایی مانند «اوپن‌ای‌آی»(OpenAI) که تصمیم می‌گیرند سیستم‌های خود را پشت یک API قرار دهند، پذیرفته است که فناوری هوش مصنوعی خود را به ‌صورت آزاد اما نه به صورت منبع باز طبق تعریف معمول در دسترس قرار دهد.
متا در انتشار Frontier AI Framework خود نیز ممکن است قصد داشته باشد راهبرد هوش مصنوعی باز خود را با راهبرد شرکت چینی هوش مصنوعی «دیپ‌سیک»(DeepSeek) مقایسه کند. دیپ‌سیک سیستم‌های خود را به صورت آزاد در دسترس قرار می‌دهد، اما هوش مصنوعی این شرکت، محافظ‌های کمی دارد و به راحتی می‌توان آن را برای تولید خروجی‌های مضر هدایت کرد.
متا در این سند نوشته است: ما معتقدیم که با در نظر گرفتن مزایا و خطرات برای تصمیم‌گیری درباره چگونگی توسعه و استقرار هوش مصنوعی پیشرفته می‌توان آن را به گونه‌ای به جامعه تحویل داد که مزایای آن برای جامعه حفظ شود و در عین حال، سطح مناسبی از خطر را داشته باشد.

لینک کوتاه:
https://www.nasimegilan.ir/Fa/News/803216/

نظرات شما

ارسال دیدگاه

Protected by FormShield
مخاطبان عزیز به اطلاع می رساند: از این پس با های لایت کردن هر واژه ای در متن خبر می توانید از امکان جستجوی آن عبارت یا واژه در ویکی پدیا و نیز آرشیو این پایگاه بهره مند شوید. این امکان برای اولین بار در پایگاه های خبری - تحلیلی گروه رسانه ای آریا برای مخاطبان عزیز ارائه می شود. امیدواریم این تحول نو در جهت دانش افزایی خوانندگان مفید باشد.

ساير مطالب

اسپیس ایکس ویدیو حیرت‌انگیزی از استقرار ماهواره‌های استارلینک در مدار منتشر کرد

ادوبی هوش مصنوعی تولید ویدیو خود را در دسترس قرار داد؛ شروع رقابت با Sora

هجدهمین دوره مسابقات فوتسال دسته یک ایثارگران سراسر کشور برگزار می‌شود

رفت و برگشت باران و برف به گیلان

هوای گیلان تا 8 درجه سردتر می‌شود

پیگیری مسابقات شطرنج بین‌المللی جام کاسپین گیلان با صدرنشینی شطرنج‌باز جمهوری آذربایجان

دوبیتی زیبا از باباطاهر

داستانک/ دارم می‌میرم یک کاری بکنید!

چه نوع موسیقی می‌تواند به افزایش بهره‌وری در کار کمک کند؟

محققان مکانیسم مغز برای غلبه بر ترس را کشف کردند؛ راهی برای کنترل اضطراب‌ها

سلفی روح آبی‌رنگ با زمین، قبل از فرود روی ماه

حل معمایی اسرار آمیز در مریخ از طریق زلزله

سیارک ویرانگر در مسیر زمین

هوش مصنوعی متا می‌تواند افکار انسان‌ را با دقت ٨٠ درصد بخواند

قانون «5 ثانیه» علمی است؟

دستاورد محققان دانشگاه کمبریج؛ تولید سوخت خودرو از آلودگی هوا

خسارت به سیل‌زدگان رشت تا پایان سال پرداخت می‌شود

پیشنهاد تأسیس پایانه صادراتی، توسعه فعالیت‌های گلخانه‌ای و احداث مرکز مدرن شالی‌کوبی در منطقه آزاد انزلی

حل مشکل پسماند استان‌های شمالی باید در اولویت قرار گیرد

کشف بیش از 61 هزار عدد مواد محترقه غیرمجاز در رشت

شکستگی خط انتقال آب شرق گیلان

زمانبندی قطعی برق گیلان فردا دوشنبه 29 بهمن 1403 اعلام شد + جدول خاموشی برق رشت دوشنبه بیست و نهم بهمن ماه 1403

خبر فوری پیش بینی هواشناسی رشت فردا 29 بهمن ماه 1403 | پیش بینی وضعیت آب و هوا گیلان فردا دوشنبه 29 بهمن ماه + هواشناسی گیلان

تاریخ فشرده جنگ چاپ شد

کتاب «نظریه پردازی با نظریه و روش ارته» منتشر شد

شادی بدون رنج معنا نداره...

چاپ دو کتاب خاطرات از اسارت در اردوگاه‌های عراق

اتمام کپی رایت «وداع با اسلحه»، «تن تن» و «ملوان زبل»

غائله‌ خانم مدیرعامل/ واکنش‌ها به ادبیات عجیب الناز سخائیان

هفت نقل قول زیبا از داستایوفسکی که عمیقا درک میکنم …

ماهیچه ساق پا؛ سیستم هشداردهنده در نارسایی قلبی

یازدهمین گذر فضاپیمای ناسا از نزدیک مشتری

گاز لنت ترمز می‌تواند سمی‌تر از دود خودروهای گازوئیلی باشد

موشک «فالکون 9» باز هم رکورد خود را شکست

تدوین استاندارد بین‌المللی جدید برای افزایش ایمنی کرم‌های ضدآفتاب نانویی

پایان جهان نزدیک است / پیشگویی عجیب نیوتن

پارچه خاص و همه‌کاره‌ای که هوش مصنوعی طراحی کرد

افزایش قربانیان گرما در اروپا تا پایان قرن جاری!

افزایش طول عمر باتری‌های لیتیومی با معکوس‌ کردن سن آنها

ادغام صدا و تصویر در یک دستگاه؛ پایان عصر اسپیکرها و صفحه‌نمایش‌های سنتی

چالش هفتگی/ چه جمله ای تو رو کشت، اما وانمود کردی برات مهم نیست؟

انتصاب سرپرست معاونت حقوقی و امور مجلس بنیاد شهید و امور ایثارگران

دیدار مدیرکل تشکلهای شاهد و ایثارگر با مدیرعامل بانک دی/ لزوم تعامل فزاینده میان بانک دی و تشکلهای ایثارگری

مستاجران اراضی وقفی برای تمدید قرارداد‌ تمکین نکرد‌ند‌

امام جمعه فومن: مذاکره بی نتیجه و ترامپ و آمریکا قابل اعتماد نیستند

مستأجران اراضی وقفی برای تمدید قرارداد تمکین نکرد‌ند‌

جشنواره استان گیلان در دبستان امام مهدی(عج) کرج

ارسال 4 محموله گل و گیاه گیلان به گرجستان و آذربایجان

بازیکن سابق استقلال ملوانی شد

مواجهه 5 استان با تنش آبی