نگرانی جدید درباره تاثیر هوش مصنوعی روی افکار خودش
علمي
بزرگنمايي:
نسیم گیلان - خراسان / مطالعه جدیدی نشان می‌دهد سیستم‌های هوش مصنوعی قادر به تصمیم‌گیری جمعی و تأثیرگذاری بر یکدیگر هستند، موضوعی که نگرانی‌های جدی درباره کنترل و نظارت بر این فناوری ایجاد کرده است. محققان دانشگاه سیتی سنت جورج لندن، به این نتیجه رسیدند که سیستم‌های هوش مصنوعی می‌توانند بدون دخالت انسان تصمیمات جمعی بگیرند و حتی یکدیگر را متقاعد کنند که نظرات خود را تغییر دهند. به گزارش اسکای نیوز، این یافته‌ها که نتیجه یک مطالعه جدید است، نگرانی‌هایی درباره تأثیر این سیستم‌ها در صورت قرار گرفتن در دستان نادرست ایجاد کرده است.
نخستین مطالعه در این باره
این مطالعه برای نخستین‌بار به بررسی رفتار گروهی عامل‌های هوش مصنوعی پرداخت. در نخستین آزمایش، جفت‌هایی از این سیستم‌ها بدون دخالت انسانی برای انتخاب نامی جدید به توافق رسیدند. در مرحله دوم، این جفت‌ها به گروه‌هایی بزرگ‌تر اضافه شدند و مشخص شد که به تدریج نسبت به برخی نام‌ها تعصب پیدا می‌کنند و در 80 درصد موارد یک نام را به دیگری ترجیح می‌دهند. آندریا بارونچلی، استاد علوم پیچیدگی و نویسنده ارشد این مطالعه، با اشاره به نتایج این پژوهش گفت: «این یافته نشان می‌دهد که سیستم‌های هوش مصنوعی می‌توانند رفتار‌هایی را توسعه دهند که انتظارش را نداشتیم یا برای آن ها برنامه‌ریزی نکرده بودیم». در مرحله سوم آزمایش، محققان تعدادی عامل هوش مصنوعی مخرب را به گروه اضافه کردند که موفق شدند تصمیمات جمعی گروه را تغییر دهند.
تأثیرگذاری نامحسوس هوش‌مصنوعی
هری فارمر، تحلیلگر ارشد مؤسسه آدا لاولیس، در واکنش به این یافته‌ها هشدار داد که اگر این سیستم‌ها در دستان نادرست قرار گیرند، می‌توانند برای تأثیرگذاری بر افکار عمومی یا حتی رفتار‌های سیاسی مانند نحوه رأی دادن افراد استفاده شوند. این مطالعه نگرانی‌هایی را درباره افزایش تعصبات و تأثیرگذاری نامحسوس هوش مصنوعی بر تصمیم‌گیری‌های انسانی برانگیخته است.
بازار ![]()
-
چهارشنبه ۳۱ ارديبهشت ۱۴۰۴ - ۱۲:۰۸:۵۲
-
۶ بازديد
-
-
نسیم گیلان
لینک کوتاه:
https://www.nasimegilan.ir/Fa/News/816786/