این متن، دیدگاه سنتی استوارت راسل درباره هوش مصنوعی را مورد نقد قرار داده و آن را «مدل استاندارد» مینامد؛ مدلی که بر اساس آن، ماشینها وظیفه دارند اهداف از پیش تعیینشده توسط انسان را بهینهسازی کنند. راسل استدلال میکند که این رویکرد ذاتاً مخاطرهآمیز است، زیرا تایین کامل، دقیق و بدون ابهام اهداف و ارزشهای انسانی امکانپذیر نیست. ازاینرو، سامانههای بسیار هوشمند ممکن است در فرآیند دستیابی به این اهداف، رفتارهایی پیشبینینشده و حتی زیانبار از خود بروز دهند.
در مقابل، راسل چارچوبی نوین با عنوان «مدل دودویی» پیشنهاد میکند که در آن، ماشین نسبت به اهداف و ترجیحات انسانی دچار عدم قطعیت است و میکوشد با مشاهده رفتار انسان، این اهداف را بهتدریج استنباط و یادگیری کند. وی این رویکرد را با بهرهگیری از مفهوم «بازیهای کمکی» (از جمله بازی گیرهکاغذ و بازی خاموشکن) تبیین میکند؛ بازیهایی که در آنها ماشین به تعامل مستمر با انسان ترغیب میشود، از او پرسش میکند، برای انجام اقدامات حساس کسب اجازه میکند و حتی امکان خاموش شدن خود توسط انسان را نیز میپذیرد.
در نهایت، راسل بر ضرورت بازتعریف بنیادین مبانی هوش مصنوعی تأکید میکند و هدف از این بازتعریف را توسعه سامانههایی میداند که بهطور قطعی در راستای منافع و رفاه انسان عمل کنند. بااینحال، وی اذعان دارد که تحقق چنین هدفی با چالشهایی اساسی، از جمله غیرمنطقی بودن رفتار انسان، دشواری استنباط دقیق ترجیحات انسانی و تعارض منافع میان افراد و گروههای مختلف، مواجه است.