وقال "نحن معتادون على التقنيات التي ليست جيدة أو سيئة حصرا، بل يمكن أن تسير في الاتجاهين". وأضاف "كعالم فيزياء، يقلقني كثيرا أمر لا يمكن السيطرة عليه، وأمر لا أفهمه بما يكفي لمعرفة الحدود التي يمكن وضعها على هذه التكنولوجيا".

ورأى أن هذا هو "السؤال الذي يطرحه الذكاء الاصطناعي". فمع أن أنظمة الذكاء الاصطناعي الحديثة تبدو وكأنها "عجائب مطلقة"، وفق وصفه، لاحظ أن كيفية عملها لا تزال غير مفهومة جيدا، معتبرا أنه أمر "مقلق جدا".

وتابع قائلا "لهذا السبب، أُشدّد، تماما كجيفري هينتون (الحائز أيضا على جائزة نوبل الفيزياء)، على ضرورة فهم أفضل"، متوقعا أن "قدرات تتجاوز تلك التي يمكنك تخيلها الآن" ستظهر في هذا المجال.

ويتخوف البعض من أن يؤدي الصعود السريع للذكاء الاصطناعي والسباق المحموم بين الشركات إلى تطور هذه التكنولوجيا بوتيرة أسرع مما يستطيع العلماء فهمه.

وأعرب جون هوبفيلد عن خشيته من أن تنطوي جهود تطوير هذه التكنولوجيا على "أمر عفوي ولكن غير مرغوب فيه".

واستشهد بمثال مادة "آيس-ناين" ice-nine الخيالية التي اخترعها مؤلف روايات الخيال العلمي كورت فونيغوت في كتابه الصادر عام 1963 بعنوان "مهد القطة" Cat's Cradle، وطُوّرت لمساعدة الجنود الذين يضطرون إلى التنقل في الوحل، ولكنها تتسبب بطريق الخطأ في تصلّب المحيطات، مما يتسبب في فقدان الحضارة الإنسانية.

قال هوبفيلد "أنا أقلق من أي شيء لسان حاله (أنا أسرع منك، أنا أكبر منك)".