هشدار مدیر علمی مایکروسافت درباره محدودیت زمانی برای کنترل هوش مصنوعی

به گزارش خبرگزاری صداوسیما، بنابه گفته اریک هورویتز، بشریت فرصت کوتاهی برای درک مکانیسم‌های حاکم بر هوش مصنوعی دارد و عدم اقدام سریع در این بازه زمانی، می‌تواند منجر به از دست رفتن کنترل دائمی بر این فناوری شود.

یکی از محور‌های اصلی نگرانی محققان در این زمینه، افزایش ارتباط میان ایجنت‌های هوش مصنوعی در محیط‌های پیچیده است.بر اساس این تحلیل‌ها، تعاملات این سیستم‌ها ممکن است به گونه‌ای تکامل یابد که دیگر با الگو‌های زبانی و استدلالی انسان همخوانی نداشته باشد. این امر باعث می‌شود که ناظران انسانی نتوانند تشخیص دهند تصمیمات سیستم چگونه و بر چه اساسی اتخاذ شده‌اند.

در نهایت، این متخصصان تأکید دارند که حفظ «بینش نظارتی» برای مدیریت معنادار بر سیستم‌های AI، اولویتی حیاتی است تا از تبدیل شدن این فناوری به یک جعبه سیاه غیرقابل کنترل جلوگیری شود.