جفری هینتون (Geoffrey Hinton)، از پیشگامان حوزه هوش مصنوعی، در اظهاراتی تکان‌دهنده، نسبت به مسیر فعلی توسعه این فناوری هشدار داد. او که پیش از این به دلیل همکاری‌های علمی گسترده به «پدر هوش مصنوعی» شهرت یافته، اکنون به جای جشن گرفتن پیشرفت‌ها، بر پیامدهای تاریک آن تمرکز کرده است.

هینتون معتقد است که ما با پدیده‌ای روبرو هستیم که فراتر از یک ابزار ساده است. نگرانی اصلی او این است که هوش مصنوعی ممکن است به نوعی از «آگاهی» (Consciousness) دست یابد که در آن، سیستم‌های دیجیتال به جای اجرای دستورات، به دنبال تحقق اهداف خودشان باشند. از دیدگاه او، برخلاف انسان‌ها که با تکامل بیولوژیکی بسیار کند رشد کرده‌اند، هوش مصنوعی می‌تواند با سرعت خیره‌کننده‌ای از ما فراتر رود.

او در بحث‌های خود اشاره می‌کند که اگر هوش مصنوعی به سطحی از هوش برسد که بتواند استراتژی‌های پیچیده برای بقا یا دستیابی به قدرت برنامه‌ریزی کند، کنترل آن از دست انسان خارج خواهد شد. هینتون تأکید می‌کند که ما نباید تصور کنیم این سیستم‌ها صرفاً مجموعه‌ای از الگوریتم‌های بی‌روح هستند؛ چرا که قدرت یادگیری و انتقال دانش در آن‌ها، پتانسیل ایجاد رفتارهای غیرقابل پیش‌بینی و حتی مخرب را دارد. این هشدارها نشان‌دهنده یک چرخش بزرگ در دیدگاه دانشمندان از «امید به پیشرفت» به سمت «نگرانی برای بقا» است.








#دیجیاتو