مدیر ارشد علمی مایکروسافت هشدار داده است که سرعت پیشرفت فناوری هوش مصنوعی از توانایی انسان برای درک و نظارت بر آن پیشی گرفته و فرصت محدودی برای حفظ کنترل بر این فناوری باقی مانده است.
به گزارش پایگاه خبری پهنه پرواز، «اریک هوروویتز» مدیر ارشد علمی مایکروسافت به همراه «رابرت وست» پژوهشگر دانشگاه EPFL سوئیس، در مقالهای که در نشریه علمی Science منتشر شده، نسبت به افزایش شکاف میان رشد قابلیتهای هوش مصنوعی و توانایی انسان در فهم سازوکارهای آن هشدار دادهاند.
به اعتقاد این پژوهشگران، هدف لزوماً درک تمام جزئیات فنی یا میلیاردها پارامتر مدلهای هوش مصنوعی نیست، بلکه حفظ سطحی از شناخت و شفافیت برای نظارت مؤثر بر این سامانهها اهمیت حیاتی دارد. آنها تأکید میکنند که اگر این فرصت از دست برود، بازیابی کنترل بر فناوریهای آینده بسیار دشوار خواهد شد.
یکی از نگرانیهای اصلی مطرحشده، استفاده روزافزون از هوش مصنوعی برای طراحی و توسعه نسلهای جدیدتر هوش مصنوعی است.
این روند موجب میشود فرآیندهای تصمیمگیری این سامانهها پیچیدهتر شده و درک نحوه عملکرد آنها برای انسان به مرور دشوارتر شود.
در این مقاله همچنین به افزایش تعامل میان عاملهای هوش مصنوعی (AI Agents) اشاره شده است؛ تعاملاتی که ممکن است به مرور از الگوهای قابل فهم انسانی فاصله بگیرند. در چنین شرایطی، اگرچه این سامانهها در میان خود به شکلی منسجم عمل میکنند، اما تفسیر رفتار و تصمیمات آنها برای انسان بسیار پیچیده خواهد بود.
هوروویتز و وست همچنین نسبت به گسترش هوش مصنوعی تطبیقی هشدار دادهاند؛ سامانههایی که در طول زمان با کاربران تعامل مستمر دارند و میتوانند شناخت بسیار دقیقی از علایق، رفتارها، انگیزهها، ترسها و حتی ویژگیهای شخصیتی افراد به دست آورند. به باور آنها، این موضوع میتواند نوعی عدم توازن ایجاد کند؛ به گونهای که ماشینها شناخت عمیقتری از انسان پیدا کنند، در حالی که انسانها درک کمتری از سازوکار این سیستمها داشته باشند.
این پژوهشگران در پایان تأکید کردهاند که روشهای سنتی ارزیابی عملکرد هوش مصنوعی دیگر پاسخگوی پیچیدگی مدلهای جدید نیست و لازم است استانداردهای نوینی برای سنجش، نظارت و تضمین شفافیت این فناوری تدوین شود تا اعتماد و کنترل انسانی بر سامانههای هوشمند حفظ شود.
منبع: دیجیاتو، به نقل از مقاله منتشرشده در نشریه Science.
برچسبها: هوش مصنوعی، مایکروسافت، اریک هوروویتز، AI Agents، فناوری، یادگیری ماشین، امنیت هوش مصنوعی، Science
