اقرأ على الإنترنت "الذكاء الاصطناعي. الاستراتيجيات." الذكاء الاصطناعي. مراحل. التهديدات. الاستراتيجيات - نيك بوستروم

ماذا سيحدث لو تفوقت الآلات على البشر في الذكاء؟ هل سيساعدوننا أم يدمرون الجنس البشري؟ هل يمكننا أن نتجاهل مشكلة تطور الذكاء الاصطناعي اليوم ونشعر بالأمان التام؟

يحاول نيك بوستروم في كتابه فهم المشكلة التي تواجه البشرية فيما يتعلق باحتمال ظهور الذكاء الفائق، وتحليل الاستجابة لها.

خصائص الكتاب

تاريخ الكتابة: 2014
اسم: . مراحل. التهديدات. الاستراتيجيات

المجلد: 760 صفحة، 69 رسماً توضيحياً
ردمك: 978-5-00057-810-0
المترجم: سيرجي فيلين
صاحب حقوق الطبع والنشر: مان، إيفانوف وفيربر

مقدمة كتاب الذكاء الاصطناعي

يعتقد المؤلف أن التهديد المميت يرتبط بإمكانية إنشاء ذكاء اصطناعي يتجاوز العقل البشري. يمكن أن تندلع كارثة في نهاية القرن الحادي والعشرين وفي العقود المقبلة. يظهر تاريخ البشرية بأكمله: عندما يكون هناك تصادم بين ممثل جنسنا، الإنسان العاقل، وأي شخص آخر يسكن كوكبنا، يفوز الشخص الأكثر ذكاءً. حتى الآن، كنا الأذكى، لكن ليس لدينا أي ضمان بأن هذا سيستمر إلى الأبد.

يكتب نيك بوستروم أنه إذا تعلمت خوارزميات الكمبيوتر الذكية كيفية إنشاء خوارزميات أكثر ذكاءً بشكل مستقل، وتلك بدورها أكثر ذكاءً، فسيكون هناك نمو هائل في الذكاء الاصطناعي، مقارنة بالناس الذين سيبدوون تقريبًا مثل النمل بجوار الناس الآن، بالمعنى الفكري بالطبع. ستظهر في العالم أنواع جديدة، وإن كانت مصطنعة، لكنها فائقة الذكاء. لا يهم ما "يتبادر إلى الذهن"، أو محاولة إسعاد جميع الناس أو اتخاذ قرار بوقف التلوث البشري المنشأ لمحيطات العالم بأكثر الطرق فعالية، أي من خلال تدمير البشرية، سيظل الناس غير قادرين على مقاومة هذا. لا توجد فرصة للمواجهة بروح فيلم Terminator، ولا تبادل لإطلاق النار مع السايبورغ الحديدي. ينتظرنا Checkmate - كما هو الحال في مبارزة بين كمبيوتر الشطرنج "Deep Blue" وطالب في الصف الأول.

على مدار المائة أو السنتين الماضيتين، أيقظت إنجازات العلم الأمل لدى البعض في حل جميع مشاكل البشرية، بينما تسببت وما زالت تسبب خوفًا جامحًا لدى البعض الآخر. وفي الوقت نفسه، لا بد من القول أن كلا وجهتي النظر تبدو مبررة تماما. بفضل العلم، تم هزيمة الأمراض الرهيبة، والإنسانية اليوم قادرة على إطعام عدد غير مسبوق من الناس، ومن نقطة واحدة على الكرة الأرضية يمكنك الوصول إلى العكس في أقل من يوم واحد. ومع ذلك، بفضل نفس العلم، يقوم الناس، باستخدام أحدث التقنيات العسكرية، بتدمير بعضهم البعض بسرعة وكفاءة وحشية.

ونحن نلاحظ اتجاها مماثلا - عندما لا يؤدي التطور السريع للتكنولوجيا إلى تكوين فرص جديدة فحسب، بل يخلق أيضا تهديدات غير مسبوقة - في مجال أمن المعلومات. لقد نشأت صناعتنا بأكملها وهي موجودة فقط لأن إنشاء أشياء رائعة مثل أجهزة الكمبيوتر والإنترنت وتوزيعها على نطاق واسع قد خلق مشاكل لم يكن من الممكن تصورها في عصر ما قبل الكمبيوتر. نتيجة لظهور تكنولوجيا المعلومات، حدثت ثورة في الاتصالات البشرية. كما تم استخدامه من قبل أنواع مختلفة من مجرمي الإنترنت. والآن فقط بدأت البشرية تدرك تدريجيًا مخاطر جديدة: يتم التحكم في المزيد والمزيد من كائنات العالم المادي باستخدام أجهزة الكمبيوتر والبرامج، التي غالبًا ما تكون غير كاملة ومليئة بالثغرات والضعيفة؛ ومع اتصال المزيد والمزيد من هذه الأشياء بالإنترنت، سرعان ما أصبحت التهديدات الصادرة عن العالم السيبراني تتعلق بالأمن الجسدي وربما مشكلات تتعلق بالحياة والموت.

وهذا ما يجعل كتاب نيك بوستروم مثيرًا للاهتمام. الخطوة الأولى لمنع السيناريوهات الكابوسية (لشبكة كمبيوتر واحدة أو للبشرية جمعاء) هي فهم ما قد تكون عليه. يبدي بوستروم الكثير من التحفظات على أن خلق ذكاء اصطناعي مماثل للعقل البشري أو متفوق عليه - ذكاء اصطناعي قادر على تدمير البشرية - ليس سوى سيناريو محتمل قد لا يؤتي ثماره. بالطبع، هناك العديد من الخيارات، وتطور تكنولوجيا الكمبيوتر قد لا يدمر البشرية، لكنه سيعطينا الإجابة على "السؤال الرئيسي للحياة والكون وكل شيء" (ربما سيكون الرقم 42 حقًا، كما في رواية "دليل المسافر إلى المجرة"). هناك أمل، لكن الخطر خطير للغاية، كما يحذرنا بوستروم. في رأيي، إذا كان هناك احتمال لوجود مثل هذا التهديد الوجودي للإنسانية، فيجب التعامل معه على هذا الأساس، ومن أجل منعه وحماية نفسه منه، ينبغي بذل جهود مشتركة على نطاق عالمي.

مقدمة

هناك مادة معينة داخل جمجمتنا، والتي بفضلها يمكننا، على سبيل المثال، القراءة. تتمتع هذه المادة - الدماغ البشري - بقدرات غائبة في الثدييات الأخرى. في الواقع، يدين الناس بوضعهم المهيمن على الكوكب على وجه التحديد لهذه السمات المميزة. تتميز بعض الحيوانات بعضلات قوية وأنياب حادة، لكن لا يوجد كائن حي، باستثناء الإنسان، يتمتع بمثل هذا العقل المثالي. نظرًا لمستوىنا الفكري العالي، فقد تمكنا من إنشاء أدوات مثل اللغة والتكنولوجيا والتنظيم الاجتماعي المعقد. وبمرور الوقت، تعززت ميزتنا وتوسعت، مع تقدم كل جيل جديد، بناءً على إنجازات أسلافه، إلى الأمام.

إذا تم تطوير الذكاء الاصطناعي بشكل يتجاوز المستوى العام لتطور العقل البشري، فسيظهر ذكاء فائق القوة في العالم. وبعد ذلك سيعتمد مصير جنسنا بشكل مباشر على تصرفات هذه الأنظمة التقنية الذكية - تمامًا كما يتحدد مصير الغوريلا اليوم إلى حد كبير ليس من قبل الرئيسيات نفسها، بل من خلال النوايا البشرية.

ومع ذلك، تتمتع البشرية بميزة لا يمكن إنكارها، لأنها تخلق أنظمة تقنية ذكية. من حيث المبدأ، من الذي يمنعكم من اختراع مثل هذا الذكاء الفائق الذي سيأخذ القيم الإنسانية العالمية تحت حمايته؟ وبطبيعة الحال، لدينا أسباب وجيهة للغاية لحماية أنفسنا. من الناحية العملية، سيتعين علينا التعامل مع أصعب مسألة تتعلق بالتحكم - وهي كيفية التحكم في خطط وأفعال الذكاء الفائق. علاوة على ذلك، سيكون الناس قادرين على استخدام فرصة واحدة. بمجرد ظهور الذكاء الاصطناعي غير الودي (AI)، سيبدأ على الفور في التدخل في جهودنا للتخلص منه أو على الأقل ضبط إعداداته. وبعد ذلك سيتم تحديد مصير البشرية.

أحاول في كتابي فهم المشكلة التي يواجهها الناس مع احتمال الذكاء الفائق، وتحليل استجاباتهم. ولعل أخطر وأخطر جدول أعمال تلقته البشرية على الإطلاق ينتظرنا. وبغض النظر عما إذا فزنا أو خسرنا، فمن الممكن أن يكون هذا التحدي هو الأخير بالنسبة لنا. أنا لا أقدم أي حجج هنا لصالح نسخة أو أخرى: هل نحن على وشك تحقيق تقدم كبير في إنشاء الذكاء الاصطناعي؟ هل من الممكن التنبؤ بدقة معينة بموعد حدوث حدث ثوري معين؟ على الأرجح - في هذا القرن. ومن غير المرجح أن يذكر أي شخص موعدًا نهائيًا أكثر تحديدًا.

الذكاء الاصطناعي. مراحل. التهديدات. الاستراتيجيات - نيك بوستروم (تنزيل)

(جزء من مقدمة الكتاب)

ماذا سيحدث لو تفوقت الآلات على البشر في الذكاء؟ هل سيساعدوننا أم يدمرون الجنس البشري؟ هل يمكننا أن نتجاهل مشكلة تطور الذكاء الاصطناعي اليوم ونشعر بالأمان التام؟ يحاول نيك بوستروم في كتابه فهم المشكلة التي تواجه البشرية فيما يتعلق باحتمال ظهور الذكاء الفائق، وتحليل الاستجابة لها. نشرت باللغة الروسية لأول مرة.

* * *

الجزء التمهيدي المحدد من الكتاب الذكاء الاصطناعي. مراحل. التهديدات. الاستراتيجيات (نيك بوستروم، 2014)مقدمة من شريكنا في الكتاب - شركة لتر.

الفصل الثاني

الطريق إلى العقل الفائق

اليوم، إذا أخذنا مستوى التطور الفكري العام، فإن الآلات أدنى تماما من البشر. لكن ذات يوم - حسب افتراضنا - سيتفوق ذكاء الآلة على ذكاء الإنسان. ماذا سيكون طريقنا من الآن إلى الذي ينتظرنا؟ يصف هذا الفصل العديد من خيارات التكنولوجيا الممكنة. سنغطي أولاً موضوعات مثل الذكاء الاصطناعي، ومحاكاة الدماغ الكاملة، وتعزيز الإدراك البشري، وواجهة الدماغ والآلة، والشبكات، والمنظمات. ثم سنقوم بتقييم الجوانب المدرجة من وجهة نظر الاحتمالية، وما إذا كان يمكن أن تكون بمثابة خطوات في الصعود إلى العقل الفائق. مع خيارات الطريق المتعددة، تزداد فرصة الوصول إلى وجهتك بشكل واضح.

دعونا أولا نحدد مفهوم الذكاء الفائق. هذا أي ذكاء يتجاوز القدرات المعرفية البشرية بشكل كبير في أي مجال تقريبًا(87) . في الفصل التالي، سنناقش بمزيد من التفصيل ما هو الذكاء الفائق، ونحلله إلى مكوناته ونفرق بين جميع تجسيداته المحتملة. ولكن الآن دعونا نقتصر على مثل هذا الوصف العام والسطحي. لاحظ أنه في هذا الوصف لم يكن هناك مكان لتطبيق العقل الفائق في الحياة، ولا لكيفياته، أي ما إذا كان سيتم منحه تجارب ذاتية وتجربة وعي. ولكن بمعنى ما، وخاصة أخلاقيا، فإن السؤال مهم للغاية. لكن الآن، وبعيداً عن الميتافيزيقا الفكرية (88)، سننتبه إلى مسألتين: متطلبات ظهور العقل الفائق، وعواقب هذه الظاهرة.

وفقا لتعريفنا، فإن برنامج الشطرنج Deep Fritz ليس ذكيا للغاية، لأنه "قوي" فقط في منطقة ضيقة للغاية - لعبة الشطرنج. ومع ذلك، فمن المهم جدًا أن يكون للذكاء الفائق تخصصات موضوعية خاصة به. لذلك، في كل مرة نتحدث فيها عن هذا السلوك الفكري الفائق أو ذاك المحدود بمجال الموضوع، سأحدد بشكل منفصل مجال نشاطه المحدد. على سبيل المثال، الذكاء الاصطناعي الذي يتجاوز القدرات العقلية البشرية بشكل كبير في مجالات البرمجة والتصميم سيطلق عليه اسم الذكاء الهندسي الفائق. لكن لتعيين الأنظمة ، عمومًاتجاوز المستوى العام للذكاء البشري – ما لم ينص على خلاف ذلك – يبقى المصطلح الذكاء الفائق.

وكيف سنصل إلى الوقت الذي يكون فيه ظهوره ممكنا؟ أي طريق سنختار؟ دعونا نلقي نظرة على بعض الخيارات الممكنة.

الذكاء الاصطناعي

عزيزي القارئ، لا ينبغي أن تتوقع من هذا الفصل تفصيلاً مفاهيميًا لمسألة كيفية إنشاء ذكاء اصطناعي عالمي أو قوي. ببساطة لا يوجد مشروع لبرمجته. ولكن حتى لو كنت المالك السعيد لمثل هذه الخطة، فمن المؤكد أنني لن أعلنها في كتابي. (إذا لم تكن أسباب ذلك واضحة بعد، آمل أن أتمكن في الفصول اللاحقة من توضيح موقفي).

ومع ذلك، فمن الممكن اليوم التعرف على بعض الخصائص الأساسية الكامنة في مثل هذا النظام الذكي. من الواضح أن القدرة على التعلم باعتبارها سمة متأصلة في جوهر النظام يجب أن تكون مدمجة في النظام في وقت التصميم، بدلاً من إضافتها كفكرة لاحقة كامتداد. وينطبق الشيء نفسه على القدرة على العمل بفعالية مع المعلومات غير المؤكدة والاحتمالية. على الأرجح، يجب أن تتضمن الوحدات الأساسية للذكاء الاصطناعي الحديث وسيلة لاستخراج المعلومات المفيدة من البيانات من أجهزة الاستشعار الخارجية والداخلية وتحويل المفاهيم الناتجة إلى تمثيلات اندماجية مرنة لمزيد من الاستخدام في عمليات التفكير القائمة على المنطق والحدس.

لم تكن الأنظمة الأولى للذكاء الاصطناعي الكلاسيكي تهدف في المقام الأول إلى التعلم والعمل في ظل ظروف من عدم اليقين وتشكيل المفاهيم - ربما يرجع ذلك إلى حقيقة أنه في ذلك الوقت لم تكن طرق التحليل المقابلة متطورة بشكل كافٍ. هذا لا يعني أن جميع أفكار الذكاء الاصطناعي الأساسية مبتكرة بشكل أساسي. على سبيل المثال، فكرة استخدام التعلم كوسيلة لتطوير نظام بسيط والارتقاء به إلى مستوى الإنسان، عبّر عنها آلان تورينج عام 1950 في مقال بعنوان "الحوسبة والذكاء"، حيث أوجز مفهومه عن "الآلة" طفل":

لماذا لا نحاول، بدلًا من أن نحاول إنشاء برنامج يقلد عقل الشخص البالغ، أن نحاول إنشاء برنامج يقلد عقل الطفل؟ ففي نهاية المطاف، إذا تلقى عقل الطفل التعليم المناسب، فإنه يصبح عقل شخص بالغ (89).

توقع تورينج أن إنشاء "آلة فرعية" سيتطلب عملية تكرارية:

من غير المرجح أن نتمكن من الحصول على "سيارة أطفال" جيدة من المحاولة الأولى. ومن الضروري إجراء تجربة لتدريب إحدى هذه الآلات ومعرفة كيفية تعليمها. ثم قم بإجراء نفس التجربة على جهاز آخر وحدد أي الجهازين أفضل. هناك علاقة واضحة بين هذه العملية والتطور في الطبيعة...

ومع ذلك، يمكننا أن نأمل أن تتم هذه العملية بشكل أسرع من التطور. البقاء للأصلح هو وسيلة بطيئة للغاية لقياس الميزة. يستطيع المجرب، باستخدام قوة الذكاء، تسريع عملية التقييم. وبنفس القدر من الأهمية، لا يقتصر الأمر على استخدام الطفرات العشوائية فقط. إذا تمكن المجرب من تتبع سبب نقص معين، فمن المحتمل أن يكون قادرًا على اختراع نوع الطفرة التي ستؤدي إلى التحسين الضروري (90).

نحن نعلم أن العمليات التطورية العمياء يمكن أن تؤدي إلى ذكاء عام بمستوى الإنسان، وقد حدث ذلك مرة واحدة على الأقل. ومن خلال التنبؤ بالعمليات التطورية ــ أو البرمجة الجينية، حيث يتم تصميم الخوارزميات والتحكم فيها بواسطة مبرمج بشري ذكي ــ ينبغي لنا أن نحصل على نتائج مماثلة بكفاءة أكبر كثيرا. وهذا هو الموقف الذي يعتمد عليه العديد من العلماء، ومن بينهم الفيلسوف ديفيد تشالمرز والباحث هانز مورافيك (91)، الذين يزعمون أن ICHU ليس ممكنًا من الناحية النظرية فحسب، بل ممكن أيضًا من الناحية العملية في القرن الحادي والعشرين. في رأيهم، فيما يتعلق بخلق الذكاء، وتقييم القدرات النسبية للتطور والهندسة البشرية، سنجد أن الأخير يتفوق بشكل كبير على التطور في العديد من المجالات، وعلى الأرجح، سيتفوق عليه قريبا في المجالات المتبقية. وبالتالي، إذا كانت العمليات التطورية قد أنتجت الذكاء الطبيعي ذات يوم، فإن ذلك يعني أن التصميم البشري والتنمية قد يقودنا قريبًا إلى الذكاء الاصطناعي. على سبيل المثال، كتب مورافيك في عام 1976:

إن وجود العديد من الأمثلة على ظهور الذكاء في ظل هذه الأنواع من القيود يجب أن يمنحنا الثقة في أننا سنكون قادرين على تحقيق الشيء نفسه في وقت قريب جدًا. الوضع مشابه لتاريخ إنشاء الآلات التي يمكنها الطيران، على الرغم من أنها أثقل من الهواء: فقد أظهرت الطيور والخفافيش والحشرات هذه القدرة بوضوح قبل وقت طويل من صنع الإنسان آلات الطيران (92).

ومع ذلك، ينبغي للمرء أن يكون حذرا عند الاستنتاجات المبنية على مثل هذه السلسلة من التفكير. وبطبيعة الحال، ليس هناك شك في أن هروب الكائنات الحية غير البشرية التي هي أثقل من الهواء أصبح ممكنا نتيجة للتطور في وقت أبكر بكثير من نجاح البشر في ذلك - على الرغم من أنهم نجحوا بمساعدة الآليات. ومن الأمثلة الأخرى التي تدعم ذلك ما يلي: أنظمة السونار؛ أنظمة الملاحة المغناطيسية؛ وسائل الحرب الكيميائية؛ أجهزة الاستشعار الضوئية وغيرها من الأجهزة ذات خصائص الكفاءة الميكانيكية والحركية. ومع ذلك، وبنفس النجاح، سندرج المجالات التي لا تزال فيها فعالية الجهود البشرية بعيدة جدًا عن فعالية العمليات التطورية: التشكل؛ آليات الشفاء الذاتي؛ الحماية المناعية. وبالتالي، فإن حجة مورافيك لا تزال "لا تمنحنا الثقة" في إنشاء اللجنة المستقلة للجامعات "قريباً جداً". وفي أحسن الأحوال، فإن الحد الأعلى لتعقيد خلق الذكاء هو تطور الحياة الذكية على الأرض. لكن هذا المستوى لا يزال بعيد المنال بالنسبة للقدرات التكنولوجية الحالية للبشرية.

حجة أخرى لصالح تطوير الذكاء الاصطناعي وفقًا لنموذج العملية التطورية هي القدرة على تشغيل الخوارزميات الجينية على معالجات قوية إلى حد ما وتحقيق نتائج مماثلة لتلك التي تم الحصول عليها أثناء التطور البيولوجي. وبالتالي، تقترح هذه النسخة من الحجة تحسين الذكاء الاصطناعي من خلال طريقة معينة.

ما مدى صحة القول بأننا في القريب العاجل سيكون لدينا ما يكفي من الموارد الحاسوبية لإعادة إنتاج العمليات التطورية المقابلة التي أدت إلى ظهور الذكاء البشري؟ تعتمد الإجابة على الشروط التالية: أولا، ما إذا كان سيتم تحقيق تقدم كبير في تكنولوجيا الكمبيوتر خلال العقود المقبلة؛ ثانياً، ما هو نوع القوة الحاسوبية المطلوبة حتى تكون آليات إطلاق الخوارزميات الجينية مشابهة للانتقاء الطبيعي الذي أدى إلى ظهور الإنسان. يجب أن أقول إن الاستنتاجات التي نتوصل إليها عبر سلسلة تفكيرنا غير مؤكدة إلى حد كبير؛ ولكن على الرغم من هذه الحقيقة المحبطة، فإنه لا يزال يبدو من المناسب محاولة إعطاء تقييم تقريبي لهذه النسخة على الأقل (انظر الإطار 3). وفي غياب احتمالات أخرى، حتى الحسابات الأولية ستلفت الانتباه إلى بعض الكميات غير المعروفة المثيرة للاهتمام.

النقطة المهمة هي أن القوة الحسابية المطلوبة فقط لإعادة إنتاج العمليات التطورية الضرورية التي أدت إلى ظهور الذكاء البشري لا يمكن تحقيقها عمليًا وستظل كذلك لفترة طويلة، حتى لو استمر قانون مور في العمل لقرن آخر (انظر الشكل 3 أدناه). ). ومع ذلك، هناك حل معقول للغاية: سيكون لدينا تأثير كبير على الكفاءة عندما نقوم، بدلا من التكرار المباشر للعمليات التطورية الطبيعية، بتطوير آلية بحث تركز على خلق الذكاء، باستخدام مجموعة متنوعة من المزايا الواضحة مقارنة بالانتقاء الطبيعي. وبطبيعة الحال، أصبح من الصعب للغاية الآن قياس مكاسب الكفاءة الناتجة. نحن لا نعرف حتى ما هي المستويات التي نتحدث عنها – خمسة أو خمسة وعشرون. لذلك، ما لم يتم تطوير الحجة التطورية بشكل صحيح، فلن نتمكن من تلبية توقعاتنا ولن نعرف أبدًا مدى صعوبة الطريق إلى الذكاء الاصطناعي على مستوى الإنسان وكم من الوقت يتعين علينا انتظار ظهوره.

المربع 3. تقييم الجهود المبذولة لتكرار العملية التطورية

ليست كل إنجازات التولد البشري المتعلقة بالعقل البشري ذات قيمة للمتخصصين المعاصرين الذين يعملون على مشكلة التطور التطوري للذكاء الاصطناعي. يتم استخدام جزء صغير فقط مما يتم إنتاجه نتيجة الانتقاء الطبيعي على الأرض. على سبيل المثال، المشاكل التي لا يستطيع البشر تجاهلها هي نتيجة لجهود تطورية بسيطة فقط. على وجه الخصوص، بما أننا قادرون على تشغيل أجهزة الكمبيوتر لدينا بالكهرباء، فإننا لا نحتاج إلى إعادة اختراع جزيئات اقتصاد الطاقة الخلوية لإنشاء آلات ذكية - وربما تطلب التطور الجزيئي للآلات الأيضية جزءًا كبيرًا من إجمالي إنفاق الطاقة. قوة الانتقاء الطبيعي الموجودة تحت تصرفنا التطور عبر تاريخ الأرض (93).

هناك مفهوم مفاده أن مفتاح إنشاء الذكاء الاصطناعي هو بنية الجهاز العصبي، الذي ظهر قبل أقل من مليار سنة (94). إذا قبلنا هذا الاقتراح، فإن عدد "التجارب" اللازمة للتطور سوف ينخفض ​​بشكل كبير. يوجد اليوم ما يقرب من (4-6) × 1030 بدائيات النوى في العالم، ولكن فقط 1019 حشرة وأقل من 1010 ممثل للجنس البشري (بالمناسبة، كان عدد السكان عشية ثورة العصر الحجري الحديث أصغر من حيث الحجم) ( 95). موافق، هذه الأرقام ليست مخيفة جدا.

ومع ذلك، لا تتطلب الخوارزميات التطورية مجموعة متنوعة من الخيارات فحسب، بل تتطلب أيضًا تقييم مدى ملاءمة كل خيار - وعادةً ما يكون العنصر الأكثر تكلفة من حيث الموارد الحسابية. في حالة تطور الذكاء الاصطناعي، من المحتمل أن يتطلب تقييم اللياقة البدنية نمذجة التطور العصبي بالإضافة إلى التعلم والإدراك. ولذلك، فمن الأفضل عدم النظر إلى العدد الإجمالي للكائنات الحية ذات الأجهزة العصبية المعقدة، ولكن لتقدير عدد الخلايا العصبية في الكائنات الحية التي قد يتعين علينا تصميمها لحساب الوظيفة الموضوعية للتطور. ويمكن إجراء تقدير تقريبي من خلال النظر إلى الحشرات التي تهيمن على الكتلة الحيوية الموجودة فوق سطح الأرض (يمثل النمل وحده 15-20%) (96). يعتمد حجم دماغ الحشرة على عدة عوامل. كلما كانت الحشرة أكبر حجمًا وأكثر اجتماعية (أي أنها تعيش أسلوب حياة اجتماعيًا)، زاد حجم دماغها؛ على سبيل المثال، النحلة لديها أقل بقليل من 106 خلية عصبية، وذبابة الفاكهة لديها 105 خلية عصبية، والنملة التي لديها 250 ألف خلية عصبية بينهما (97). تحتوي أدمغة معظم الحشرات الصغيرة على بضعة آلاف من الخلايا العصبية فقط. أقترح بحذر شديد التوقف عند القيمة المتوسطة (105) ومساواة جميع الحشرات (التي يوجد منها 1019 في العالم) بذبابة الفاكهة، عندها سيكون العدد الإجمالي لخلاياها العصبية 1024. دعونا نضيف ترتيبًا آخر من حيث الحجم بسبب القشريات والطيور والزواحف والثدييات وما إلى ذلك - ونحصل على 1025. (قارن ذلك بحقيقة أنه قبل ظهور الزراعة كان هناك أقل من 107 أشخاص على هذا الكوكب، وكان لدى كل منهم ما يقرب من 1011 خلية عصبية - ذلك أي أن المجموع الإجمالي لجميع الخلايا العصبية كان أقل من 1018، على الرغم من أن الدماغ البشري يحتوي - ويحتوي على - العديد من المشابك العصبية.)

تعتمد التكلفة الحسابية لنمذجة خلية عصبية واحدة على المستوى المطلوب من التفاصيل في النموذج. يتطلب نموذج الخلايا العصبية البسيط للغاية في الوقت الفعلي ما يقرب من 1000 عملية فاصلة عائمة في الثانية (FLOPS). يتطلب نموذج هودجكين-هكسلي الواقعي كهربائيًا وفسيولوجيًا 1,200,000 فلوبس. من شأن نموذج الخلايا العصبية متعدد المكونات الأكثر تعقيدًا أن يضيف أمرين إلى ثلاثة أوامر من حيث الحجم، ويتطلب نموذج المستوى الأعلى الذي يعمل على أنظمة الخلايا العصبية عمليات أقل بمقدار اثنين إلى ثلاثة أوامر من حيث الحجم لكل خلية عصبية مقارنة بالنماذج البسيطة (98). إذا قمنا بمحاكاة 1025 خلية عصبية على مدى مليار سنة من التطور (أكثر من عمر الجهاز العصبي في شكله الحالي) وتركنا أجهزة الكمبيوتر تعمل على هذه المهمة لمدة عام، فإن متطلبات الطاقة الحاسوبية الخاصة بها ستنخفض في حدود 1031 -1044 يتخبط. وعلى سبيل المقارنة، فإن أقوى جهاز كمبيوتر في العالم، وهو الكمبيوتر الصيني Tianhe-2 (اعتبارًا من سبتمبر 2013)، قادر على تقديم 3.39 × 1016 فلوبس فقط. في العقود الأخيرة، زادت أجهزة الكمبيوتر التقليدية من أدائها بمقدار رتبة كبيرة كل 6.7 سنوات. وحتى لو استمرت قوة الحوسبة في النمو وفقا لقانون مور لمدة قرن من الزمان، فلن يكون ذلك كافيا لسد الفجوة القائمة. يمكن أن يؤدي استخدام أنظمة حوسبة أكثر تخصصًا أو زيادة وقت الحساب إلى تقليل متطلبات الطاقة بمقدار بضعة أوامر فقط.

من المحتمل أن يؤدي التخلص من هذا النوع من عدم الكفاءة إلى توفير عدة أوامر من حجم الطاقة المطلوبة البالغة 1031-1044 FLOPS المحسوبة مسبقًا. لسوء الحظ، من الصعب أن نقول بالضبط كم. من الصعب إعطاء تقدير تقريبي - لا يسع المرء إلا أن يخمن ما إذا كان سيكون خمسة أوامر من حيث الحجم أو عشرة أو خمسة وعشرين (101).

أرز. 3. أداء أجهزة الكمبيوتر فائقة القوة.بالمعنى الحرفي، ما يسمى "قانون مور" هو ملاحظة أن عدد الترانزستورات الموضوعة على شريحة الدائرة المتكاملة يتضاعف كل عامين تقريبًا. ومع ذلك، غالبًا ما يتم تعميم القانون على افتراض أن المؤشرات الأخرى لأداء الكمبيوتر تنمو أيضًا بشكل كبير. يوضح الرسم البياني الخاص بنا تطور السرعة القصوى لأقوى أجهزة الكمبيوتر في العالم بمرور الوقت (على مقياس عمودي لوغاريتمي). في السنوات الأخيرة، توقفت سرعة الحوسبة التسلسلية عن النمو، ولكن بسبب انتشار الحوسبة المتوازية، يستمر إجمالي عدد العمليات في الزيادة بنفس المعدل (102).

هناك تعقيد آخر مرتبط بالعوامل التطورية المطروحة كحجة أخيرة. والمشكلة هي أننا غير قادرين على حساب الحد الأعلى لصعوبة الحصول على الذكاء من خلال الوسائل التطورية ـ ولو بشكل تقريبي للغاية. نعم، ظهرت الحياة الذكية على الأرض ذات يوم، لكن هذه الحقيقة لا تعني أن العمليات التطورية ذات الاحتمالية العالية تؤدي إلى ظهور الذكاء. سيكون مثل هذا الاستنتاج معيبًا بشكل أساسي، لأنه لا يأخذ في الاعتبار ما يسمى بتأثير الاختيار الرصدي، والذي يعني ضمنًا أن جميع المراقبين موجودون على الكوكب الذي نشأت فيه الحياة الذكية، بغض النظر عن مدى احتمالية حدوث مثل هذا الحدث أو عدم احتماله على أي كوكب آخر. كوكب آخر. لنفترض أنه من أجل ظهور حياة ذكية، بالإضافة إلى الأخطاء المنهجية للانتقاء الطبيعي، هناك كمية هائلة من مصادفات محظوظة- كبير جدًا لدرجة أن الحياة الذكية ظهرت على كوكب واحد فقط من بين 1030 كوكبًا حيث توجد جينات مكررة بسيطة. في هذه الحالة، قد يجد الباحثون الذين يستخدمون الخوارزميات الجينية في محاولة لتكرار ما خلقه التطور أن الأمر يستغرق حوالي 1030 تكرارًا قبل أن يجدوا مجموعة يمكنها الحصول على جميع العناصر بشكل صحيح. يبدو هذا متسقًا تمامًا مع ملاحظتنا بأن الحياة بدأت وتطورت هنا على الأرض. ويمكن تجاوز هذا الحاجز المعرفي جزئيا من خلال تحركات منطقية حذرة ومرهقة إلى حد ما - من خلال تحليل حالات التطور المتقارب للخصائص المتعلقة بالذكاء، ومراعاة تأثير الملاحظة في الاختيار. إذا لم يكلف العلماء عناء إجراء مثل هذا التحليل، فلن يضطر أي منهم في المستقبل إلى تقدير القيمة القصوى ومعرفة مقدار الحد الأعلى المقدر لقوة الحوسبة اللازمة لإعادة إنتاج تطور الذكاء (انظر قد يكون المربع 3) أقل من الترتيب الثلاثين (أو أي قيمة أخرى كبيرة بنفس القدر (103) .

دعنا ننتقل إلى الخيار التالي لتحقيق هدفنا: الحجة المؤيدة لجدوى تطور الذكاء الاصطناعي هي نشاط الدماغ البشري، والذي يشار إليه بالنموذج الأساسي للذكاء الاصطناعي. تختلف الإصدارات المختلفة لهذا النهج فقط في درجة التكاثر - ومدى دقة تقليد وظائف الدماغ البيولوجي. في أحد الأطراف، وهو نوع من "لعبة التقليد"، لدينا هذا المفهوم محاكاة الدماغ الكامل، أي محاكاة واسعة النطاق للدماغ (سنعود إلى هذا بعد قليل). وعلى الجانب الآخر، توجد تقنيات تكون فيها وظيفة الدماغ مجرد نقطة بداية، ولكن ليس من المخطط تطوير نماذج منخفضة المستوى. في نهاية المطاف، سوف نقترب من فهم الفكرة العامة لنشاط الدماغ، والتي يسهلها التقدم في علم الأعصاب وعلم النفس المعرفي، فضلا عن التحسينات المستمرة في الأدوات والأجهزة. المعرفة الجديدة ستصبح بلا شك دليلاً لمزيد من العمل مع الذكاء الاصطناعي. نحن نعرف بالفعل مثالاً للذكاء الاصطناعي الذي ظهر نتيجة لنمذجة أداء الدماغ - وهي الشبكات العصبية. فكرة أخرى مأخوذة من علم الأعصاب وتم نقلها إلى التعلم الآلي هي التنظيم الهرمي للإدراك. كانت دراسة التعلم المعزز مدفوعة (جزئيًا على الأقل) بالدور الهام الذي يلعبه هذا الموضوع في النظريات النفسية التي تصف سلوك الحيوان وإدراكه، بالإضافة إلى تقنيات التعلم المعزز (على سبيل المثال، خوارزمية TD). اليوم، يُستخدم التعلم المعزز على نطاق واسع في أنظمة الذكاء الاصطناعي (104). سيكون هناك بالتأكيد المزيد من هذه الأمثلة في المستقبل. ونظرًا لأن الآليات الأساسية لوظيفة الدماغ محدودة جدًا - وهي قليلة جدًا في الواقع - فسيتم اكتشاف كل هذه الآليات عاجلاً أم آجلاً من خلال التقدم المستمر في علم الأعصاب. ومع ذلك، فمن الممكن أن يصل بعض النهج الهجين إلى خط النهاية حتى قبل ذلك، حيث يجمع بين النماذج التي تم تطويرها، من ناحية، بناءً على نشاط الدماغ البشري، ومن ناحية أخرى، بناءً على تقنيات الذكاء الاصطناعي حصريًا. وليس من الضروري على الإطلاق أن يشبه النظام الناتج الدماغ في كل شيء، حتى لو تم استخدام بعض مبادئ نشاطه في إنشائه.

يمثل نشاط الدماغ البشري كنموذج أساسي حجة قوية لصالح إمكانية إنشاء الذكاء الاصطناعي ومواصلة تطويره. ومع ذلك، حتى أقوى الحجج لن تقربنا من فهم التواريخ المستقبلية، لأنه من الصعب التنبؤ بموعد حدوث هذا الاكتشاف أو ذاك في علم الأحياء العصبي. كل ما يمكننا قوله هو أنه كلما تعمقنا في المستقبل الذي نتطلع إليه، كلما زاد احتمال الكشف عن أسرار عمل الدماغ بشكل كامل بما يكفي لتنفيذ أنظمة الذكاء الاصطناعي.

لدى الباحثين العاملين في مجال الذكاء الاصطناعي وجهات نظر مختلفة حول مدى واعدة النهج العصبي مقارنة بالتقنيات القائمة على الأساليب التركيبية بالكامل. أظهر طيران الطيور الإمكانية المادية لآليات الطيران الأثقل من الهواء، مما أدى في النهاية إلى بناء آلات الطيران. ومع ذلك، حتى الطائرات الأولى التي طارت لم ترفرف بأجنحتها. ما هو المسار الذي سيتخذه تطور الذكاء الاصطناعي؟ يبقى السؤال مفتوحا: هل وفقا لمبدأ قانون الديناميكا الهوائية، الذي يحمل آليات حديدية ثقيلة في الهواء - أي التعلم من الطبيعة الحية، ولكن ليس تقليدها بشكل مباشر؛ هل يعتمد على مبدأ تصميم محرك الاحتراق الداخلي - أي نسخ تصرفات القوى الطبيعية بشكل مباشر.

مفهوم تورينج لتطوير البرنامج الذي يستقبل ب يامعظم المعرفة من خلال التعلم، وليس نتيجة لتحديد البيانات الأولية، تنطبق أيضًا على إنشاء الذكاء الاصطناعي - سواء على الأساليب العصبية أو التركيبية.

كان الاختلاف في مفهوم تورينج عن "آلة الطفل" هو فكرة جنين الذكاء الاصطناعي(105). ومع ذلك، إذا كان من المفترض أن تتمتع "الآلة الطفلة"، كما تصورها تورينج، ببنية ثابتة نسبيًا وتطور إمكاناتها من خلال التراكم محتوى، سيكون الذكاء الاصطناعي الجنيني نظامًا أكثر تعقيدًا، وسيعمل على تحسين نظامه ذاتيًا بنيان. في المراحل الأولى من وجوده، يتطور الذكاء الاصطناعي الجنيني بشكل أساسي من خلال جمع المعلومات، والعمل عن طريق التجربة والخطأ بمساعدة المبرمج. "عندما يكبر" عليه أن يتعلم من تلقاء نفسه معرفة ذلكفي مبادئ عمله ليتمكن من تصميم خوارزميات وهياكل حسابية جديدة تزيد من كفاءته المعرفية. ولن يكون الفهم المطلوب ممكنا إلا في الحالات التي يكون فيها جنين الذكاء الاصطناعي قد وصل في العديد من المجالات إلى مستوى عام مرتفع إلى حد ما من التطور الفكري، أو في مجالات معينة - على سبيل المثال، علم التحكم الآلي والرياضيات - تجاوز عتبة فكرية معينة.

وهذا يقودنا إلى مفهوم مهم آخر يسمى "التحسين الذاتي العودي". يجب أن يكون الذكاء الاصطناعي الجنيني الناجح قادرًا على التطوير الذاتي المستمر: فالنسخة الأولى تخلق نسخة محسنة من نفسها أكثر ذكاءً من النسخة الأصلية؛ النسخة المحسنة، بدورها، تعمل على نسخة أكثر تحسينًا، وهكذا (106) . في ظل ظروف معينة، يمكن أن تستمر عملية التحسين الذاتي العودية لفترة طويلة وتؤدي في النهاية إلى التطور الهائل للذكاء الاصطناعي. يشير هذا إلى حدث ينمو فيه الذكاء العام للنظام، خلال فترة زمنية قصيرة، من مستوى متواضع نسبيًا (ربما حتى أقل من مستوى الإنسان في العديد من النواحي بخلاف البرمجة وأبحاث الذكاء الاصطناعي) إلى مستوى فائق الذكاء، متفوق بشكل جذري على المستويات البشرية. وفي الفصل الرابع سنعود إلى هذا المنظور، وهو أمر مهم للغاية من حيث أهميته، ونحلل بمزيد من التفصيل ديناميكيات التطورات.

يرجى ملاحظة أن نموذج التطوير هذا يتضمن إمكانية حدوث مفاجآت. قد تنتهي محاولات إنشاء ذكاء اصطناعي عالمي، من ناحية، بالفشل التام، ولكن من ناحية أخرى، ستؤدي إلى العنصر الحاسم الأخير المفقود - وبعد ذلك سيصبح جنين الذكاء الاصطناعي قادرًا على التحسين الذاتي العودي المستدام.

قبل أن أنهي هذا القسم من الفصل، أود أن أؤكد على أمر آخر: ليس من الضروري على الإطلاق تشبيه الذكاء الاصطناعي بالعقل البشري. أعترف تمامًا أن الذكاء الاصطناعي سيصبح "غريبًا" تمامًا - وهذا سيحدث على الأرجح. من المتوقع أن تختلف البنية المعرفية للذكاء الاصطناعي بشكل كبير عن تلك الخاصة بالبشر؛ على سبيل المثال، في المراحل المبكرة، سيكون للبنية المعرفية نقاط قوة ونقاط ضعف مختلفة تمامًا (على الرغم من أنه، كما سنرى لاحقًا، سيكون الذكاء الاصطناعي قادرًا على التغلب على أوجه القصور الأولية). بالإضافة إلى ذلك، قد لا يكون لأنظمة الذكاء الاصطناعي الموجهة نحو الأهداف أي شيء مشترك مع أنظمة البشرية الموجهة نحو الأهداف. لا يوجد سبب للقول بأن الذكاء الاصطناعي العادي سيبدأ في الاسترشاد بالمشاعر الإنسانية، مثل الحب والكراهية والفخر - مثل هذا التكيف المعقد سيتطلب قدراً هائلاً من العمل الباهظ الثمن، علاوة على ذلك، فإن ظهور مثل هذا الاحتمال في الذكاء الاصطناعي يجب أن يكون تعامل بعناية فائقة. وهذا يمثل تحديًا كبيرًا وفرصة كبيرة في نفس الوقت. سنعود إلى دوافع الذكاء الاصطناعي في فصول لاحقة، لكن هذه الفكرة أساسية جدًا في الكتاب بحيث تستحق أن نأخذها في الاعتبار طوال الوقت.

محاكاة كاملة للعقل البشري

في عملية محاكاة الدماغ واسعة النطاق، والتي نسميها "محاكاة الدماغ الكاملة" أو "تحميل العقل"، يتم إنشاء الذكاء الاصطناعي عن طريق مسح البنية الحسابية للدماغ البيولوجي وتكرارها بدقة. وبالتالي، يتعين على المرء أن يستمد الإلهام بالكامل من الطبيعة - وهي حالة متطرفة من الانتحال الصريح. لكي تكون محاكاة الدماغ الكاملة ناجحة، يجب اتباع عدد من الخطوات المحددة.

المرحلة الأولى. يتم إجراء مسح تفصيلي إلى حد ما للدماغ البشري. قد يتضمن ذلك إصلاح دماغ الشخص المتوفى باستخدام التزجيج، أو التزجيج (مما يجعل الأنسجة تصبح صلبة مثل الزجاج). يتم بعد ذلك قطع أجزاء رقيقة من الأنسجة باستخدام آلة وتمريرها عبر آلة أخرى لفحصها، وربما باستخدام المجاهر الإلكترونية. في هذه المرحلة، يتم تلوين المادة بأصباغ خاصة للكشف عن خصائصها الهيكلية والكيميائية. وفي الوقت نفسه، تعمل العديد من أجهزة المسح بالتوازي، وتقوم في نفس الوقت بمعالجة أقسام مختلفة من الأنسجة.

المرحلة الثانية. يتم تغذية البيانات الأولية من الماسحات الضوئية إلى جهاز كمبيوتر لمعالجة الصور تلقائيًا لإعادة بناء الشبكة العصبية ثلاثية الأبعاد المسؤولة عن الإدراك في الدماغ البيولوجي. لتقليل عدد الصور عالية الدقة التي يلزم تخزينها في المخزن المؤقت، يمكن تنفيذ هذه المرحلة بالتزامن مع المرحلة الأولى. يتم دمج الخريطة الناتجة مع مكتبة النماذج الحسابية العصبية القائمة على الخلايا العصبية من أنواع مختلفة أو على عناصر عصبية مختلفة (على سبيل المثال، قد تختلف المشابك العصبية). تظهر في الشكل بعض نتائج المسح ومعالجة الصور باستخدام التكنولوجيا الحديثة. 4.

نهاية الجزء التمهيدي.

نيك بوستروم

نيك بوستروم

الذكاء الفائق

المسارات والمخاطر والاستراتيجيات

المحررون العلميون M. S. Burtsev، E. D. Kazimirova، A. B. Lavrentiev

تم النشر بإذن من وكالة ألكسندر كورجينفسكي

يتم توفير الدعم القانوني لدار النشر من قبل شركة المحاماة Vegas-Lex.

نُشر هذا الكتاب في الأصل باللغة الإنجليزية عام 2014. وتم نشر هذه الترجمة بالتنسيق مع مطبعة جامعة أكسفورد. يتحمل الناشر وحده المسؤولية عن هذه الترجمة من العمل الأصلي ولا تتحمل مطبعة جامعة أكسفورد أي مسؤولية عن أي أخطاء أو سهو أو عدم دقة أو غموض في هذه الترجمة أو عن أي خسائر ناجمة عن الاعتماد عليها.

© نيك بوستروم، 2014

© الترجمة إلى اللغة الروسية، النشر باللغة الروسية، التصميم. مان، إيفانوف وفيربر ذ م م، 2016

هذا الكتاب يكمل بشكل جيد

أفيناش ديكسيت وباري نالبوف

ستيفن ستروجاتز

مقدمة الشريك

قال إيديك: "...لدي صديق واحد". "يدعي أن الإنسان هو الحلقة الوسيطة التي تحتاجها الطبيعة لخلق تاج الخليقة: كوب من الكونياك مع شريحة من الليمون.

أركادي وبوريس ستروغاتسكي. الاثنين يبدأ يوم السبت

يعتقد المؤلف أن التهديد المميت يرتبط بإمكانية إنشاء ذكاء اصطناعي يتجاوز العقل البشري. يمكن أن تندلع كارثة في نهاية القرن الحادي والعشرين وفي العقود المقبلة. يظهر تاريخ البشرية بأكمله: عندما يكون هناك تصادم بين ممثل جنسنا، الإنسان العاقل، وأي شخص آخر يسكن كوكبنا، يفوز الشخص الأكثر ذكاءً. حتى الآن، كنا الأذكى، لكن ليس لدينا أي ضمان بأن هذا سيستمر إلى الأبد.

يكتب نيك بوستروم أنه إذا تعلمت خوارزميات الكمبيوتر الذكية كيفية إنشاء خوارزميات أكثر ذكاءً بشكل مستقل، وتلك بدورها أكثر ذكاءً، فسيكون هناك نمو هائل في الذكاء الاصطناعي، مقارنة بالناس الذين سيبدوون تقريبًا مثل النمل بجوار الناس الآن، بالمعنى الفكري بالطبع. ستظهر في العالم أنواع جديدة، وإن كانت مصطنعة، لكنها فائقة الذكاء. لا يهم ما يتبادر إلى ذهنه، محاولة إسعاد جميع الناس أو اتخاذ قرار بوقف التلوث البشري لمحيطات العالم بأكثر الطرق فعالية، أي من خلال تدمير البشرية، سيظل الناس غير قادرين على المقاومة هذا. لا توجد فرصة للمواجهة بروح فيلم Terminator، ولا تبادل لإطلاق النار مع السايبورغ الحديدي. ينتظرنا Checkmate - كما هو الحال في مبارزة بين كمبيوتر الشطرنج "Deep Blue" وطالب في الصف الأول.

على مدار المائة أو السنتين الماضيتين، أيقظت إنجازات العلم الأمل لدى البعض في حل جميع مشاكل البشرية، بينما تسببت وما زالت تسبب خوفًا جامحًا لدى البعض الآخر. وفي الوقت نفسه، لا بد من القول أن كلا وجهتي النظر تبدو مبررة تماما. بفضل العلم، تم هزيمة الأمراض الرهيبة، والإنسانية اليوم قادرة على إطعام عدد غير مسبوق من الناس، ومن نقطة واحدة على الكرة الأرضية يمكنك الوصول إلى العكس في أقل من يوم واحد. ومع ذلك، بفضل نفس العلم، يقوم الناس، باستخدام أحدث التقنيات العسكرية، بتدمير بعضهم البعض بسرعة وكفاءة وحشية.

هناك اتجاه مماثل - عندما لا يؤدي التطور السريع للتكنولوجيا إلى تكوين فرص جديدة فحسب، بل يخلق أيضًا تهديدات غير مسبوقة - نلاحظه في مجال أمن المعلومات. لقد نشأت صناعتنا بأكملها وهي موجودة فقط لأن إنشاء أشياء رائعة مثل أجهزة الكمبيوتر والإنترنت وتوزيعها على نطاق واسع قد خلق مشاكل لم يكن من الممكن تصورها في عصر ما قبل الكمبيوتر. نتيجة لظهور تكنولوجيا المعلومات، حدثت ثورة في الاتصالات البشرية. كما تم استخدامه من قبل أنواع مختلفة من مجرمي الإنترنت. والآن فقط بدأت البشرية تدرك تدريجيًا مخاطر جديدة: يتم التحكم في المزيد والمزيد من كائنات العالم المادي باستخدام أجهزة الكمبيوتر والبرامج، التي غالبًا ما تكون غير كاملة ومليئة بالثغرات والضعيفة؛ ومع اتصال المزيد والمزيد من هذه الأشياء بالإنترنت، سرعان ما أصبحت التهديدات الصادرة عن العالم السيبراني تتعلق بالأمن المادي وربما مشكلات تتعلق بالحياة والموت.

وهذا ما يجعل كتاب نيك بوستروم مثيرًا للاهتمام. الخطوة الأولى لمنع السيناريوهات الكابوسية (لشبكة كمبيوتر واحدة أو للبشرية جمعاء) هي فهم ما قد تكون عليه. يبدي بوستروم الكثير من التحفظات على أن خلق ذكاء اصطناعي مشابه للعقل البشري أو متفوق عليه - ذكاء اصطناعي يمكنه تدمير البشرية - ليس سوى سيناريو محتمل قد لا يؤتي ثماره. بالطبع، هناك العديد من الخيارات، وتطور تكنولوجيا الكمبيوتر قد لا يدمر البشرية، لكنه سيعطينا الإجابة على "السؤال الرئيسي للحياة والكون وكل شيء" (ربما سيكون الرقم 42 حقًا، كما في رواية "دليل المسافر إلى المجرة"). هناك أمل، لكن الخطر خطير للغاية، كما يحذرنا بوستروم. في رأيي، إذا كان هناك احتمال لوجود مثل هذا التهديد الوجودي للإنسانية، فيجب التعامل معه على هذا الأساس، ومن أجل منعه وحماية نفسه منه، ينبغي بذل جهود مشتركة على نطاق عالمي.

أود أن أنهي مقدمتي باقتباس من كتاب ميخائيل ويلر "الرجل في النظام":

عندما يكرر الخيال العلمي، أي الفكر البشري، المؤطر بالصور والمؤامرات، شيئًا ما لفترة طويلة وبالتفصيل - حسنًا، لا يوجد دخان بدون نار. تحتوي أفلام الحركة المبتذلة في هوليوود حول الحروب بين البشر وحضارة الروبوتات على ذرة الحقيقة المريرة تحت قشر المشاهدة التجارية.

عندما يتم بناء برنامج غرائز قابل للتحويل في الروبوتات، وسيتم بناء إشباع هذه الغرائز كحاجة أساسية وغير مشروطة، وسيصل هذا إلى مستوى التكاثر الذاتي - عندها، يا شباب، توقفوا عن محاربة التدخين والكحول، لأنه سيكون الوقت المناسب للشرب والتدخين أمام هناء لنا جميعًا.

إيفجيني كاسبيرسكي، المدير العام لشركة كاسبرسكي لاب

قصة العصافير غير المكتملة

في أحد الأيام، في خضم التعشيش، جلست العصافير، التي سئمت من العمل الشاق لعدة أيام، لتستريح عند غروب الشمس وتتحدث عن هذا وذاك.

"نحن صغار جدًا وضعفاء للغاية." تخيل كم ستكون الحياة أسهل لو كان لدينا بومة كمساعد لنا! - زقزق عصفور حالمًا. - يمكنها بناء أعشاش لنا...

- نعم! - وافق آخر. – وأيضا نعتني بكبار السن والفراخ لدينا …

وأضاف ثالث: «وعلمنا واحفظنا من قطة الجيران».

ثم اقترح باستوس، العصفور الأكبر:

– دع الكشافة يطيرون في اتجاهات مختلفة بحثًا عن البومة التي سقطت من العش. ومع ذلك، فإن بيضة البومة، والغراب، وحتى ابن عرس الصغير ستفي بالغرض. سيكون هذا الاكتشاف أعظم نجاح لقطيعنا! مثل الوقت الذي اكتشفنا فيه مصدرًا لا ينتهي للحبوب في الفناء الخلفي لمنزلنا.

وكانت العصافير، متحمسة للغاية، تغرد بأعلى ما تستطيع.

وفقط Skronfinkle ذو العين الواحدة، وهو عصفور لاذع ذو مزاج صعب، بدا وكأنه يشك في استصواب هذا المشروع.

وقال باقتناع: “لقد اخترنا طريقاً كارثياً”. - ألا يجب عليك أولاً أن تدرس بجدية قضايا ترويض وتدجين البوم قبل السماح لمثل هذا المخلوق الخطير بالدخول إلى بيئتك؟

اعترض عليه باستوس قائلاً: "يبدو لي أن فن ترويض البوم ليس بالمهمة السهلة". العثور على بيضة البومة أمر صعب للغاية. لذلك دعونا نبدأ بالبحث. بمجرد أن نتمكن من تربية البومة، سنفكر في مشاكل التعليم.

- خطة شريرة! زقزق سكرونفينكل بعصبية.

لكن لم يعد أحد يستمع إليه. في اتجاه باستوس، ارتفع قطيع العصافير في الهواء وانطلق.

بقيت العصافير فقط في مكانها، بعد أن قررت معرفة كيفية ترويض البوم. وسرعان ما أدركوا أن باستوس كان على حق: فقد تبين أن المهمة كانت صعبة للغاية، خاصة في ظل عدم وجود البومة نفسها التي يمكن التدرب عليها. إلا أن الطيور واصلت دراسة المشكلة باجتهاد، لأنها كانت تخشى أن يعود السرب ببيضة البومة قبل أن تكتشف سر كيفية التحكم في سلوك البومة.

مقدمة

هناك مادة معينة داخل جمجمتنا، وذلك بفضل...

8 عام

المراجعة بواسطة getAbstract

وفقا لنيك بوستروم، عالم المستقبل في جامعة أكسفورد، يمكن للذكاء الاصطناعي أن يصبح أداة بالنسبة لنا لضمان الأمن والازدهار الاقتصادي والتنمية الفكرية، ولكن البشرية قد لا تكون قادرة على تحقيق الإمكانات الكاملة لهذه الأداة. إن نقد بوستروم خطوة بخطوة للمزالق المتأصلة في الإدراك البشري للذكاء الاصطناعي يترك لدى المرء إحساسًا بأن البشر ليس لديهم الموارد ولا الخيال لفهم الانتقال من عالم يهيمن عليه البشر إلى عالم مهدد أو مستعبد بالفعل من قبل كيان ما. امتلاك العقل الفائق. يصف بوستروم ببراعة كيف يمكن أن ينشأ مثل هذا الذكاء الفائق، وكيف يمكن أن يتطور إلى "فردي" قوي للغاية، والتهديد الذي سيشكله. على سبيل المثال، يتساءل: ماذا سيحدث إذا تطور هذا الذكاء الاصطناعي إلى درجة أنه شكل حكومة عالمية واحدة لا تسترشد بالمبادئ الأخلاقية التقليدية؟ الكتاب غني بالمعلومات، وغني بالإشارات إلى مصادر مختلفة، ويشجع القارئ على التفكير في العديد من الأشياء المجهولة. يعتمد منطق المؤلف على تحليل مجموعة كاملة من السيناريوهات المستقبلية المحتملة. هذه الدراسة المتعمقة مخصصة في المقام الأول للقراء الذين لديهم اهتمام خاص بالموضوع. getAbstractيوصي به السياسيون والمستقبليون والطلاب والمستثمرون والفلاسفة وأي شخص يفكر في التكنولوجيا المتقدمة.

ومن ملخص الكتاب ستتعلم:

• كيف تتطور التكنولوجيا المعروفة باسم “الذكاء الاصطناعي”؟
• ماذا يقترح العلماء من أجل استخدام الذكاء الاصطناعي والسيطرة عليه؛
• لماذا الإنسانية ليست مستعدة للتعامل مع الذكاء الاصطناعي؟

عن المؤلف

نيك بوستروم– أستاذ بجامعة أكسفورد، والمدير المؤسس لمعهد مستقبل الإنسانية.

آفاق ظهور الذكاء الفائق

في صيف عام 1956، اجتمعت مجموعة من العلماء في كلية دارتموث لدراسة آفاق التنمية البشرية. لقد كانوا مهتمين في المقام الأول بما إذا كانت الآلات قادرة على إعادة إنتاج وظائف الذكاء البشري. استمرت الأبحاث حول هذا الموضوع بنجاح متفاوت. في الثمانينيات، بدأت البرامج القائمة على القواعد، أو "الأنظمة المتخصصة"، في التطور، وبدأ يبدو أن التقنيات التي يمكن استخدامها لإنشاء الذكاء الاصطناعي كانت على وشك الازدهار. ثم توقف التقدم وجف التمويل. تلقت جهود الذكاء الاصطناعي زخما جديدا في التسعينيات مع ظهور "الخوارزميات الجينية" و"الشبكات العصبية".

أحد مقاييس قوة الذكاء الاصطناعي هو مدى جودة أجهزة الكمبيوتر المصممة خصيصًا في لعب ألعاب مثل الشطرنج والجسر وScrabble وGo وtrivia. في غضون 10 سنوات تقريبًا، سيتمكن جهاز كمبيوتر مزود بخوارزميات متقدمة من هزيمة بطل العالم في لعبة Go. بالإضافة إلى الألعاب، تُستخدم تقنيات مماثلة في أجهزة السمع وأجهزة التعرف على الوجه والكلام والملاحة والتشخيص والتخطيط والخدمات اللوجستية، بالإضافة إلى إنشاء روبوتات صناعية تكون وظائفها...

الصفحة الحالية: 1 (يحتوي الكتاب على 40 صفحة إجمالاً) [مقطع القراءة المتاح: 8 صفحات]

هذا الكتاب يكمل بشكل جيد

نظرية اللعبة

أفيناش ديكسيت وباري نالبوف

برينياك

كين جينينغز

متعة ×

ستيفن ستروجاتز

الذكاء الفائق

المسارات والمخاطر والاستراتيجيات

نيك بوستروم

الذكاء الاصطناعي

مراحل. التهديدات. الاستراتيجيات

"مان وإيفانوف وفيربر"

معلومة

من الناشر

المحررون العلميون M. S. Burtsev، E. D. Kazimirova، A. B. Lavrentiev

تم النشر بإذن من وكالة ألكسندر كورجينفسكي

نشرت باللغة الروسية لأول مرة

بوستروم، نيك

الذكاء الاصطناعي. مراحل. التهديدات. الاستراتيجيات / نيك بوستروم؛ خط من الانجليزية إس فيلينا. – م.: مان، إيفانوف وفيربر، 2016.

ردمك 978-5-00057-810-0

ماذا سيحدث لو تفوقت الآلات على البشر في الذكاء؟ هل سيساعدوننا أم يدمرون الجنس البشري؟ هل يمكننا أن نتجاهل مشكلة تطور الذكاء الاصطناعي اليوم ونشعر بالأمان التام؟

يحاول نيك بوستروم في كتابه فهم المشكلة التي تواجه البشرية فيما يتعلق باحتمال ظهور الذكاء الفائق، وتحليل الاستجابة لها.

كل الحقوق محفوظة.

لا يجوز إعادة إنتاج أي جزء من هذا الكتاب بأي شكل من الأشكال دون الحصول على إذن كتابي من أصحاب حقوق الطبع والنشر.

يتم توفير الدعم القانوني لدار النشر من قبل شركة المحاماة Vegas-Lex.

نُشر هذا الكتاب في الأصل باللغة الإنجليزية عام 2014. وتم نشر هذه الترجمة بالتنسيق مع مطبعة جامعة أكسفورد. يتحمل الناشر وحده المسؤولية عن هذه الترجمة من العمل الأصلي ولا تتحمل مطبعة جامعة أكسفورد أي مسؤولية عن أي أخطاء أو سهو أو عدم دقة أو غموض في هذه الترجمة أو عن أي خسائر ناجمة عن الاعتماد عليها.

© نيك بوستروم، 2014

© الترجمة إلى اللغة الروسية، النشر باللغة الروسية، التصميم. مان، إيفانوف وفيربر ذ م م، 2016

مقدمة الشريك

قال إيديك: "...لدي صديق واحد". "يدعي أن الإنسان هو الحلقة الوسيطة التي تحتاجها الطبيعة لخلق تاج الخليقة: كوب من الكونياك مع شريحة من الليمون.

أركادي وبوريس ستروغاتسكي. الاثنين يبدأ يوم السبت

يعتقد المؤلف أن التهديد المميت يرتبط بإمكانية إنشاء ذكاء اصطناعي يتجاوز العقل البشري. يمكن أن تندلع كارثة في نهاية القرن الحادي والعشرين وفي العقود المقبلة. يظهر تاريخ البشرية بأكمله: عندما يكون هناك تصادم بين ممثل جنسنا، الإنسان العاقل، وأي شخص آخر يسكن كوكبنا، يفوز الشخص الأكثر ذكاءً. حتى الآن، كنا الأذكى، لكن ليس لدينا أي ضمان بأن هذا سيستمر إلى الأبد.

يكتب نيك بوستروم أنه إذا تعلمت خوارزميات الكمبيوتر الذكية كيفية إنشاء خوارزميات أكثر ذكاءً بشكل مستقل، وتلك بدورها أكثر ذكاءً، فسيكون هناك نمو هائل في الذكاء الاصطناعي، مقارنة بالناس الذين سيبدوون تقريبًا مثل النمل بجوار الناس الآن، بالمعنى الفكري بالطبع. ستظهر في العالم أنواع جديدة، وإن كانت مصطنعة، لكنها فائقة الذكاء. لا يهم ما يتبادر إلى ذهنه، محاولة إسعاد جميع الناس أو اتخاذ قرار بوقف التلوث البشري لمحيطات العالم بأكثر الطرق فعالية، أي من خلال تدمير البشرية، سيظل الناس غير قادرين على المقاومة هذا. لا توجد فرصة للمواجهة بروح فيلم Terminator، ولا تبادل لإطلاق النار مع السايبورغ الحديدي. ينتظرنا Checkmate - كما هو الحال في مبارزة بين كمبيوتر الشطرنج "Deep Blue" وطالب في الصف الأول.

على مدار المائة أو السنتين الماضيتين، أيقظت إنجازات العلم الأمل لدى البعض في حل جميع مشاكل البشرية، بينما تسببت وما زالت تسبب خوفًا جامحًا لدى البعض الآخر. وفي الوقت نفسه، لا بد من القول أن كلا وجهتي النظر تبدو مبررة تماما. بفضل العلم، تم هزيمة الأمراض الرهيبة، والإنسانية اليوم قادرة على إطعام عدد غير مسبوق من الناس، ومن نقطة واحدة على الكرة الأرضية يمكنك الوصول إلى العكس في أقل من يوم واحد. ومع ذلك، بفضل نفس العلم، يقوم الناس، باستخدام أحدث التقنيات العسكرية، بتدمير بعضهم البعض بسرعة وكفاءة وحشية.

هناك اتجاه مماثل - عندما لا يؤدي التطور السريع للتكنولوجيا إلى تكوين فرص جديدة فحسب، بل يخلق أيضًا تهديدات غير مسبوقة - نلاحظه في مجال أمن المعلومات. لقد نشأت صناعتنا بأكملها وهي موجودة فقط لأن إنشاء أشياء رائعة مثل أجهزة الكمبيوتر والإنترنت وتوزيعها على نطاق واسع قد خلق مشاكل لم يكن من الممكن تصورها في عصر ما قبل الكمبيوتر. نتيجة لظهور تكنولوجيا المعلومات، حدثت ثورة في الاتصالات البشرية. كما تم استخدامه من قبل أنواع مختلفة من مجرمي الإنترنت. والآن فقط بدأت البشرية تدرك تدريجيًا مخاطر جديدة: يتم التحكم في المزيد والمزيد من كائنات العالم المادي باستخدام أجهزة الكمبيوتر والبرامج، التي غالبًا ما تكون غير كاملة ومليئة بالثغرات والضعيفة؛ ومع اتصال المزيد والمزيد من هذه الأشياء بالإنترنت، سرعان ما أصبحت التهديدات الصادرة عن العالم السيبراني تتعلق بالأمن المادي وربما مشكلات تتعلق بالحياة والموت.

وهذا ما يجعل كتاب نيك بوستروم مثيرًا للاهتمام. الخطوة الأولى لمنع السيناريوهات الكابوسية (لشبكة كمبيوتر واحدة أو للبشرية جمعاء) هي فهم ما قد تكون عليه. يبدي بوستروم الكثير من التحفظات على أن خلق ذكاء اصطناعي مشابه للعقل البشري أو متفوق عليه - ذكاء اصطناعي يمكنه تدمير البشرية - ليس سوى سيناريو محتمل قد لا يؤتي ثماره. بالطبع، هناك العديد من الخيارات، وتطور تكنولوجيا الكمبيوتر قد لا يدمر البشرية، لكنه سيعطينا الإجابة على "السؤال الرئيسي للحياة والكون وكل شيء" (ربما سيكون الرقم 42 حقًا، كما في رواية "دليل المسافر إلى المجرة"). هناك أمل، لكن الخطر خطير للغاية، كما يحذرنا بوستروم. في رأيي، إذا كان هناك احتمال لوجود مثل هذا التهديد الوجودي للإنسانية، فيجب التعامل معه على هذا الأساس، ومن أجل منعه وحماية نفسه منه، ينبغي بذل جهود مشتركة على نطاق عالمي.

أود أن أنهي مقدمتي باقتباس من كتاب ميخائيل ويلر "الرجل في النظام":

عندما يكرر الخيال العلمي، أي الفكر البشري، المؤطر بالصور والمؤامرات، شيئًا ما لفترة طويلة وبالتفصيل - حسنًا، لا يوجد دخان بدون نار. تحتوي أفلام الحركة المبتذلة في هوليوود حول الحروب بين البشر وحضارة الروبوتات على ذرة الحقيقة المريرة تحت قشر المشاهدة التجارية.

عندما يتم بناء برنامج غرائز قابل للتحويل في الروبوتات، وسيتم بناء إشباع هذه الغرائز كحاجة أساسية وغير مشروطة، وسيصل هذا إلى مستوى التكاثر الذاتي - عندها، يا شباب، توقفوا عن محاربة التدخين والكحول، لأنه سيكون الوقت المناسب للشرب والتدخين أمام هناء لنا جميعًا.

إيفجيني كاسبيرسكي,

المدير العام لشركة كاسبرسكي لاب

قصة العصافير غير المكتملة

في أحد الأيام، في خضم التعشيش، جلست العصافير، التي سئمت من العمل الشاق لعدة أيام، لتستريح عند غروب الشمس وتتحدث عن هذا وذاك.

"نحن صغار جدًا وضعفاء للغاية." تخيل كم ستكون الحياة أسهل لو كان لدينا بومة كمساعد لنا! - زقزق عصفور حالمًا. - يمكنها بناء أعشاش لنا...

- نعم! - وافق آخر. – وأيضا نعتني بكبار السن والفراخ لدينا …

وأضاف ثالث: «وعلمنا واحفظنا من قطة الجيران».

ثم اقترح باستوس، العصفور الأكبر:

– دع الكشافة يطيرون في اتجاهات مختلفة بحثًا عن البومة التي سقطت من العش. ومع ذلك، فإن بيضة البومة، والغراب، وحتى ابن عرس الصغير ستفي بالغرض. سيكون هذا الاكتشاف أعظم نجاح لقطيعنا! مثل الوقت الذي اكتشفنا فيه مصدرًا لا ينتهي للحبوب في الفناء الخلفي لمنزلنا.

وكانت العصافير، متحمسة للغاية، تغرد بأعلى ما تستطيع.

وفقط Skronfinkle ذو العين الواحدة، وهو عصفور لاذع ذو مزاج صعب، بدا وكأنه يشك في استصواب هذا المشروع.

وقال باقتناع: “لقد اخترنا طريقاً كارثياً”. - ألا يجب عليك أولاً أن تدرس بجدية قضايا ترويض وتدجين البوم قبل السماح لمثل هذا المخلوق الخطير بالدخول إلى بيئتك؟

اعترض عليه باستوس قائلاً: "يبدو لي أن فن ترويض البوم ليس بالمهمة السهلة". العثور على بيضة البومة أمر صعب للغاية. لذلك دعونا نبدأ بالبحث. بمجرد أن نتمكن من تربية البومة، سنفكر في مشاكل التعليم.

- خطة شريرة! زقزق سكرونفينكل بعصبية.

لكن لم يعد أحد يستمع إليه. في اتجاه باستوس، ارتفع قطيع العصافير في الهواء وانطلق.

بقيت العصافير فقط في مكانها، بعد أن قررت معرفة كيفية ترويض البوم. وسرعان ما أدركوا أن باستوس كان على حق: فقد تبين أن المهمة كانت صعبة للغاية، خاصة في ظل عدم وجود البومة نفسها التي يمكن التدرب عليها. إلا أن الطيور واصلت دراسة المشكلة باجتهاد، لأنها كانت تخشى أن يعود السرب ببيضة البومة قبل أن تكتشف سر كيفية التحكم في سلوك البومة.

مقدمة

هناك مادة معينة داخل جمجمتنا، والتي بفضلها يمكننا، على سبيل المثال، القراءة. تتمتع هذه المادة - الدماغ البشري - بقدرات غائبة في الثدييات الأخرى. في الواقع، يدين الناس بوضعهم المهيمن على الكوكب على وجه التحديد لهذه السمات المميزة. تتميز بعض الحيوانات بعضلات قوية وأنياب حادة، لكن لا يوجد كائن حي، باستثناء الإنسان، يتمتع بمثل هذا العقل المثالي. نظرًا لمستوىنا الفكري العالي، فقد تمكنا من إنشاء أدوات مثل اللغة والتكنولوجيا والتنظيم الاجتماعي المعقد. وبمرور الوقت، تعززت ميزتنا وتوسعت، مع تقدم كل جيل جديد، بناءً على إنجازات أسلافه، إلى الأمام.

إذا تم تطوير الذكاء الاصطناعي بشكل يتجاوز المستوى العام لتطور العقل البشري، فسيظهر ذكاء فائق القوة في العالم. وبعد ذلك سيعتمد مصير جنسنا بشكل مباشر على تصرفات هذه الأنظمة التقنية الذكية - تمامًا كما يتحدد مصير الغوريلا اليوم إلى حد كبير ليس من قبل الرئيسيات نفسها، بل من خلال النوايا البشرية.

ومع ذلك، تتمتع البشرية بميزة لا يمكن إنكارها، لأنها تخلق أنظمة تقنية ذكية. من حيث المبدأ، من الذي يمنعكم من اختراع مثل هذا الذكاء الفائق الذي سيأخذ القيم الإنسانية العالمية تحت حمايته؟ وبطبيعة الحال، لدينا أسباب وجيهة للغاية لحماية أنفسنا. من الناحية العملية، سيتعين علينا التعامل مع أصعب مسألة تتعلق بالتحكم - وهي كيفية التحكم في خطط وأفعال الذكاء الفائق. علاوة على ذلك، سيكون الناس قادرين على استخدام فرصة واحدة. بمجرد ظهور الذكاء الاصطناعي غير الودي (AI)، سيبدأ على الفور في التدخل في جهودنا للتخلص منه أو على الأقل ضبط إعداداته. وبعد ذلك سيتم تحديد مصير البشرية.

أحاول في كتابي فهم المشكلة التي يواجهها الناس مع احتمال الذكاء الفائق، وتحليل استجاباتهم. ولعل أخطر وأخطر جدول أعمال تلقته البشرية على الإطلاق ينتظرنا. وبغض النظر عما إذا فزنا أو خسرنا، فمن الممكن أن يكون هذا التحدي هو الأخير بالنسبة لنا. أنا لا أقدم أي حجج هنا لصالح نسخة أو أخرى: هل نحن على وشك تحقيق تقدم كبير في إنشاء الذكاء الاصطناعي؟ هل من الممكن التنبؤ بدقة معينة بموعد حدوث حدث ثوري معين؟ على الأرجح - في هذا القرن. ومن غير المرجح أن يذكر أي شخص موعدًا نهائيًا أكثر تحديدًا.

في الفصلين الأولين، سألقي نظرة على مجالات علمية مختلفة وأتطرق بخفة إلى موضوع مثل وتيرة التنمية الاقتصادية. ومع ذلك، فإن الكتاب مخصص بشكل أساسي لما سيحدث بعد ظهور الذكاء الفائق. سنناقش القضايا التالية: ديناميكيات التطور الهائل للذكاء الاصطناعي؛ أشكاله وإمكاناته؛ الخيارات الاستراتيجية التي سيُمنح لها ونتيجة لذلك سيحصل على ميزة حاسمة. بعد ذلك، سنقوم بتحليل مشكلة السيطرة ومحاولة حل المشكلة الأكثر أهمية: هل من الممكن محاكاة مثل هذه الظروف الأولية التي ستسمح لنا بالحفاظ على تفوقنا والبقاء على قيد الحياة في نهاية المطاف. في الفصول الأخيرة، سنبتعد عن التفاصيل وننظر إلى المشكلة على نطاق أوسع من أجل فهم الوضع العام الذي نشأ نتيجة لدراستنا. وسألفت انتباهكم إلى بعض التوصيات بشأن ما يجب القيام به اليوم لتجنب كارثة تهدد وجود البشرية في المستقبل.

كتابة هذا الكتاب لم تكن سهلة. آمل أن يكون الطريق الذي سلكته مفيدًا للباحثين الآخرين. سوف يصلون إلى معالم جديدة دون عقبات غير ضرورية، وسيكونون، مليئين بالقوة، قادرين على المشاركة بسرعة في العمل الذي سيجعل الناس يدركون تمامًا مدى تعقيد المشكلة التي يواجهونها. (إذا بدا، بعد كل شيء، أن طريق الدراسة يبدو للمحللين المستقبليين متعرجًا إلى حد ما ومليئًا بالحفر في بعض الأماكن، فإنني آمل أن يقدروا مدى صعوبة عبور المشهد قبل.)

على الرغم من الصعوبات المرتبطة بالعمل على الكتاب، حاولت تقديم المادة بلغة يسهل الوصول إليها؛ ومع ذلك، أرى الآن أنني لم أتعامل معها تمامًا. بطبيعة الحال، أثناء كتابتي، توجهت عقليًا إلى قارئ محتمل ولسبب ما تخيلت نفسي دائمًا في هذا الدور، فقط أصغر سنًا إلى حد ما من القارئ الحالي - اتضح أنني كنت أصنع كتابًا يمكن أن يثير الاهتمام بنفسي في المقام الأول ولكن لا تثقله التجارب الحياتية لسنوات. ولعل هذا هو ما سيحدد صغار القراء في المستقبل. ومع ذلك، أعتقد أن محتويات الكتاب ستكون في متناول الكثير من الناس. كل ما عليك فعله هو بذل بعض الجهود الذهنية، والتوقف عن رفض الأفكار الجديدة خارج نطاق السيطرة، ومقاومة إغراء استبدال كل ما هو غير مفهوم بصور نمطية مريحة يمكننا جميعًا اصطيادها بسهولة من محمياتنا الثقافية. لا ينبغي للقراء الذين ليس لديهم معرفة خاصة أن يستسلموا للحسابات الرياضية العرضية والمصطلحات غير المألوفة، لأن السياق يسمح دائمًا للمرء بفهم الفكرة الرئيسية. (من ناحية أخرى، فإن القراء الذين يرغبون في معرفة المزيد من التفاصيل سيجدون الكثير من الاهتمام في الملاحظات1.)

ربما تم تقديم جزء كبير من الكتاب بشكل غير صحيح2. ربما أكون قد تجاهلت بعض الاعتبارات المهمة، الأمر الذي سيؤدي إلى أن تكون بعض استنتاجاتي، أو ربما كلها، خاطئة. لكي لا تفوت أصغر الفروق الدقيقة وللإشارة إلى درجة عدم اليقين التي نتعامل معها، كان علي أن أنتقل إلى علامات محددة - لذا فإن النص الخاص بي مثقل بمثل هذه النقاط اللفظية القبيحة مثل "ربما"، "يمكن"، "ربما" "،" يبدو أن "،" ربما "،" بدرجة عالية من الاحتمال "،" شبه مؤكد ". ومع ذلك، في كل مرة أستخدم الكلمات التمهيدية بعناية فائقة ومدروسة للغاية. ومع ذلك، للإشارة إلى القيود العامة للافتراضات المعرفية، من الواضح أن أداة أسلوبية واحدة من هذا القبيل ليست كافية؛ يجب على المؤلف تطوير نهج منهجي للتفكير في ظل ظروف عدم اليقين والإشارة بشكل مباشر إلى احتمال الخطأ. هذه ليست بأي حال من الأحوال مسألة تواضع زائف. أعترف بصدق أن كتابي قد يحتوي على مفاهيم خاطئة خطيرة واستنتاجات غير صحيحة، لكنني في الوقت نفسه مقتنع بأن وجهات النظر البديلة المقدمة في الأدبيات أسوأ. علاوة على ذلك، ينطبق هذا أيضًا على "الفرضية الصفرية" المقبولة عمومًا، والتي بموجبها يمكننا اليوم، مع مبرر مطلق، تجاهل مشكلة ظهور الذكاء الفائق والشعور بالأمان التام.

الفصل الأول

إنجازات الماضي وفرص اليوم

لنبدأ بالتحول إلى الماضي البعيد. وبشكل عام، فإن التاريخ عبارة عن سلسلة متتالية من أنماط النمو المختلفة، مع تسارع العملية تدريجياً. ويعطينا هذا النمط الحق في افتراض أن فترة النمو التالية ــ والأسرع ــ ممكنة. ومع ذلك، فمن غير المرجح أن نولي أهمية كبيرة لمثل هذا الاعتبار، لأن موضوع كتابنا ليس "التسارع التكنولوجي"، وليس "النمو المتسارع"، أو حتى تلك الظواهر التي يتم تقديمها عادة تحت مفهوم "التفرد". ". وبعد ذلك سنناقش تاريخ الموضوع: كيف تطورت الأبحاث حول الذكاء الاصطناعي. ثم دعنا ننتقل إلى الوضع الحالي: ما يحدث في هذه المنطقة اليوم. وأخيرا، دعونا نلقي نظرة على بعض أحدث تقديرات الخبراء ونتحدث عن عدم قدرتنا على التنبؤ بتوقيت حدوث المزيد من التطورات.

أنماط النمو وتاريخ البشرية

منذ بضعة ملايين من السنين فقط، كان أسلاف البشر لا يزالون يعيشون في تيجان الأشجار الأفريقية، ويقفزون من غصن إلى غصن. مظهر الإنسان العاقل، أو الإنسان العاقل، المنفصل عن أسلافنا المشتركين مع القردة العليا، من وجهة نظر جيولوجية وحتى تطورية، حدث ذلك بسلاسة شديدة. اتخذ القدماء وضعًا عموديًا، وبدأت إبهام أيديهم في الوقوف بشكل ملحوظ بعيدًا عن البقية. ومع ذلك، فإن الشيء الأكثر أهمية هو أنه كانت هناك تغييرات طفيفة نسبيا في حجم الدماغ وتنظيم الجهاز العصبي، مما أدى في النهاية إلى قفزة عملاقة في التطور العقلي البشري. ونتيجة لذلك، طور الناس القدرة على التفكير المجرد. لقد بدأوا ليس فقط في التعبير بشكل متماسك عن الأفكار المعقدة، ولكن أيضًا في إنشاء ثقافة المعلومات، أي تجميع المعلومات والمعرفة ونقلها من جيل إلى جيل. ويجب القول أن الإنسان تعلم القيام بذلك بشكل أفضل بكثير من أي كائن حي آخر على هذا الكوكب.

قامت البشرية القديمة، باستخدام القدرات المكتسبة، بتطوير المزيد والمزيد من أساليب الإنتاج العقلانية، والتي بفضلها كانت قادرة على الهجرة إلى ما هو أبعد من الغابات والسافانا. مباشرة بعد ظهور الزراعة، بدأ حجم السكان وكثافتهم في النمو بسرعة. المزيد من الناس يعني المزيد من الأفكار، والكثافة العالية ساهمت ليس فقط في الانتشار السريع للاتجاهات الجديدة، ولكن أيضًا في ظهور متخصصين مختلفين، مما يعني أنه كان هناك تحسن مستمر في المهارات المهنية بين الناس. وتزايدت هذه العوامل معدل التنمية الاقتصادية، جعل من الممكن زيادة الإنتاجية وبناء القدرات التقنية. وفي وقت لاحق، أدى نفس التقدم الكبير الذي أدى إلى الثورة الصناعية إلى تحقيق قفزة تاريخية ثانية في تسارع معدل النمو.

وكان لديناميكية معدل النمو هذه عواقب مهمة. على سبيل المثال، في فجر البشرية، عندما كانت الأرض مأهولة بأسلاف الإنسان الحديث، أو البشر، كانت التنمية الاقتصادية بطيئة للغاية، واستغرق الأمر حوالي مليون سنة لزيادة القدرة الإنتاجية قبل أن يسمح سكان الكوكب بالزيادة بنسبة مليون شخص، وأولئك الموجودون على حافة البقاء. وبعد ثورة العصر الحجري الحديث بـ 5000 ق.م. قبل الميلاد، عندما انتقلت البشرية من مجتمع الصيد وجمع الثمار إلى نموذج اقتصادي زراعي، زاد معدل النمو كثيرًا لدرجة أن الأمر استغرق مائتي عام لنفس النمو السكاني. واليوم، بعد الثورة الصناعية، ينمو الاقتصاد العالمي بمعدل مماثل كل ساعة ونصف.

إن معدل النمو الحالي ـ حتى ولو تم تجميده لفترة طويلة نسبياً ـ من شأنه أن يؤدي إلى نتائج مبهرة. لنفترض أن الاقتصاد العالمي مستمر في النمو بالمعدل المتوسط ​​الذي تميز به على مدى الخمسين عاما الماضية، فإن سكان الكوكب سوف يصبحون في المستقبل أكثر ثراء مما هم عليه اليوم: بحلول عام 2050 - 4.8 مرة، وبحلول عام 2100 - 34 مرة2.

ومع ذلك، فإن احتمالات النمو المتسارع المستدام تتضاءل مقارنة بما يمكن أن يحدث عندما يشهد العالم تغيره الزلزالي التالي، بوتيرة من حيث الحجم والتأثير يمكن مقارنتها بالثورة الحجرية الحديثة والثورة الصناعية. يقدر الخبير الاقتصادي روبن هانسون، بناءً على بيانات تاريخية عن النشاط الاقتصادي والسكان، أن الزمن المضاعف لاقتصادات مجتمعات الصيد وجمع الثمار في العصر البليستوسيني كان 224 ألف سنة، والمجتمعات الزراعية - 909 سنوات، والمجتمعات الصناعية - 6.3 سنوات3. (وفقًا لنموذج هانسون، فإن النموذج الاقتصادي الحديث، الذي يحتوي على بنية صناعية زراعية مختلطة، لا يتطور بعد بمعدل مضاعف كل 6.3 سنة). إذا كانت مثل هذه القفزة قد حدثت بالفعل في التنمية العالمية، فهي قابلة للمقارنة في أهميتها الثورية. إلى الاثنين السابقين، فإن الاقتصاد سيصل إلى مستوى جديد ويتضاعف معدل نموه كل أسبوعين تقريبًا.

من وجهة نظر اليوم، تبدو معدلات التطور هذه رائعة. لكن شهود العهود الماضية لم يكن من الممكن أن يتصوروا أن معدل نمو الاقتصاد العالمي سوف يتضاعف عدة مرات خلال حياة جيل واحد. ما كان لا يمكن تصوره على الإطلاق بالنسبة لهم، نعتبره هو القاعدة.

أصبحت فكرة الاقتراب من لحظة التفرد التكنولوجي شائعة للغاية بعد ظهور العمل الرائد لفيرنون فينج وراي كورزويل وغيرهم من الباحثين4. ومع ذلك، فإن مفهوم "التفرد"، الذي يستخدم في مجموعة متنوعة من المعاني، قد اكتسب بالفعل معنى مستقرا بروح اليوتوبيا التكنولوجية، بل واكتسب هالة من شيء مرعب وفي نفس الوقت مهيب للغاية. منذ معظم تعريفات الكلمة التفردلا تتعلق بموضوع كتابنا، فسوف نحقق قدرًا أكبر من الوضوح إذا تخلصنا منها لصالح مصطلحات أكثر دقة.

الفكرة التي نهتم بها والمتعلقة بمفهوم التفرد هي الإمكانية التطور المتفجر للذكاءوخاصة في مجال خلق الذكاء الاصطناعي الفائق. ربما يظهر في الشكل. إن منحنيات النمو رقم 1 سوف تقنع بعضكم بأننا على وشك تحقيق قفزة مكثفة جديدة في وتيرة التنمية - وهي قفزة مماثلة للثورة الحجرية الحديثة والثورة الصناعية. على الأرجح، من الصعب على الأشخاص الذين يثقون في الرسوم البيانية أن يتخيلوا حتى سيناريو يتم فيه تقليل الزمن المضاعف للاقتصاد العالمي إلى أسابيع دون مشاركة عقل فائق القوة، أسرع بعدة مرات من عقلنا البيولوجي المعتاد في العالم. سرعة وكفاءة عملها. ومع ذلك، ليس من الضروري ممارسة رسم منحنيات النمو واستقراء المعدلات التاريخية للتنمية الاقتصادية للبدء في اتباع نهج مسؤول تجاه الظهور الثوري للذكاء الاصطناعي. هذه المشكلة خطيرة جدًا لدرجة أنها لا تتطلب هذا النوع من الحجج. وكما سنرى، هناك أسباب أكثر إلحاحا بكثير لتوخي الحذر.

أرز. 1. ديناميات الناتج المحلي الإجمالي العالمي على مدى فترة تاريخية طويلة.على مقياس خطي، يتم تصوير تاريخ الاقتصاد العالمي كخط، يندمج في البداية تقريبًا مع المحور الأفقي، ثم يندفع بشكل حاد عموديًا إلى الأعلى. أ.وحتى بتمديد الحدود الزمنية إلى عشرة آلاف سنة في الماضي، نرى أن الخط يتأرجح لأعلى من نقطة معينة عند تسعين درجة تقريبًا. ب.ينفصل الخط بشكل ملحوظ عن المحور الأفقي فقط عند مستوى المائة عام الماضية تقريبًا. (يتم تفسير الفرق في المنحنيات على الرسوم البيانية من خلال مجموعة مختلفة من البيانات، وبالتالي فإن المؤشرات تختلف إلى حد ما عن بعضها البعض6).

توقعات عالية

منذ اختراع أول أجهزة الكمبيوتر الإلكترونية في الأربعينيات من القرن العشرين، لم يتوقف الناس عن التنبؤ بظهور جهاز كمبيوتر يمكن مقارنة مستوى ذكائه بمستوى الإنسان. وهذا يعني وجود نظام تقني معقول، يتمتع بالفطرة السليمة، والقدرة على التعلم والتفكير، وقادر على التخطيط والمعالجة الشاملة للمعلومات المجمعة من مجموعة متنوعة من المصادر - الحقيقية والنظرية. في ذلك الوقت، توقع الكثيرون أن تصبح هذه الآلات حقيقة واقعة في غضون عشرين عامًا7. منذ ذلك الحين، كانت المواعيد النهائية تتحرك بمعدل عام واحد في السنة، أي أن علماء المستقبل اليوم، مقتنعين باحتمال إنشاء ذكاء اصطناعي، ما زالوا يعتقدون أن "الآلات الذكية" ستظهر في غضون عقدين من الزمن8.

فترة العشرين عامًا محبوبة من قبل جميع المتنبئين بالتغيرات الأساسية. من ناحية، فهو ليس طويلا - وبالتالي فإن موضوع المناقشة يجذب اهتماما واسع النطاق؛ من ناحية أخرى، فإنه ليس بهذه السرعة، مما يجعل من الممكن أن نحلم بسلسلة كاملة من الاكتشافات العلمية المهمة - ومع ذلك، فإن الأفكار المتعلقة بها في وقت التنبؤ غامضة للغاية، لكن تنفيذها لا شك فيه عمليا. دعونا نقارن ذلك بفترات التنبؤ الأقصر التي تم تحديدها لمختلف التقنيات التي من المقرر أن يكون لها تأثير كبير على العالم: من خمس إلى عشر سنوات - في وقت التنبؤ، يتم بالفعل تطبيق معظم الحلول التقنية جزئيًا؛ خمسة عشر عامًا - في وقت التنبؤ، كانت هذه التقنيات موجودة بالفعل في شكل إصدارات مختبرية. بالإضافة إلى ذلك، غالبًا ما تكون مدة العشرين عامًا قريبة من متوسط ​​طول الحياة المهنية المتبقية للمتنبئ، مما يقلل من مخاطر السمعة المرتبطة بتنبؤاته الجريئة.

ومع ذلك، نظرًا للتوقعات المتضخمة بشكل مفرط وغير المحققة في السنوات الماضية، لا ينبغي للمرء أن يستنتج على الفور أن إنشاء الذكاء الاصطناعي أمر مستحيل من حيث المبدأ وأنه لن يقوم أحد بتطويره على الإطلاق9. يرجع السبب الرئيسي وراء تباطؤ التقدم عما كان متوقعًا إلى المشكلات الفنية التي تمت مواجهتها في تطوير الآلات الذكية. ولم يتوقع الرواد كل الصعوبات التي واجهوها. علاوة على ذلك، فإن الأسئلة: ما مدى خطورة هذه العقبات وإلى أي مدى نحن بعيدون عن التغلب عليها لا تزال مفتوحة. في بعض الأحيان، يكون للمشاكل التي تبدو في البداية معقدة بشكل ميؤوس منه حل بسيط بشكل مدهش (على الرغم من أن العكس هو الصحيح في كثير من الأحيان).

سنستكشف المسارات التي يمكن أن تؤدي إلى ذكاء اصطناعي شبيه بالإنسان في الفصل التالي. لكن الآن أود أن ألفت انتباهكم إلى جانب واحد مهم. هناك محطات كثيرة تنتظرنا بين نقطة انطلاقنا الحالية والمستقبل عندما يظهر الذكاء الاصطناعي، لكن هذه اللحظة ليست الوجهة النهائية بأي حال من الأحوال. وبالقرب منها تمامًا، ستكون المحطة التالية هي محطة "Supermind" - وهي تنفيذ ذكاء اصطناعي بمستوى لا يساوي العقل البشري فحسب، بل يتجاوزه بشكل كبير. بعد المحطة الأخيرة، سيتسارع قطارنا إلى حد أنه في محطة "تشيلوفيك" لن يكون قادرًا على التوقف فحسب، بل حتى إبطاء السرعة. على الأرجح، سوف يطلق صافرة الماضي. من المحتمل أن يكون عالم الرياضيات البريطاني إيرفينغ جون جود، الذي عمل كمحلل رموز في فريق آلان تورينج خلال الحرب العالمية الثانية، أول من وضع التفاصيل المهمة لهذا السيناريو. في بحثه الذي يُستشهد به كثيرًا عام 1965 حول أول آلات فائقة الذكاء، كتب:

دعونا نعرّف الآلة فائقة الذكاء بأنها آلة تتجاوز القدرات الفكرية لأي شخص ذكي بشكل كبير. وبما أن إنشاء مثل هذه الآلات هو نتيجة للنشاط العقلي البشري، فإن الآلة التي تتمتع بالذكاء الفائق ستكون قادرة على تطوير آلات أكثر تقدمًا؛ ونتيجة لذلك، سيكون هناك بلا شك "انفجار فكري" من شأنه أن يتراجع بالعقل البشري إلى الوراء. وبالتالي، فإن أول آلة فائقة الذكاء ستكون آخر إنجاز للعقل البشري - ولكن فقط إذا لم تظهر امتثالًا كافيًا ولم تشرح لنا في حد ذاتها كيفية إبقائها تحت السيطرة.

قد ينطوي التطور الهائل للذكاء الاصطناعي على أحد المخاطر الوجودية الرئيسية - في هذه الأيام يُنظر إلى هذا الوضع على أنه تافه؛ وبالتالي، لا بد من تقييم احتمالات هذا النمو بمنتهى الجدية، حتى لو كان معروفاً (وهذا ليس هو الحال) أن احتمال التهديد منخفض نسبياً. إلا أن رواد مجال الذكاء الاصطناعي، رغم كل قناعتهم بحتمية ظهور ذكاء صناعي لا يقل عن الذكاء البشري، إلا أنهم أنكروا في أغلبهم إمكانية ظهور ذكاء فائق متفوق على العقل البشري. ويبدو أن مخيلتهم ــ في محاولتهم فهم الإمكانية النهائية لآلات المستقبل التي يمكن مقارنتها بقدرات تفكيرهم بالبشر ــ قد جفت ببساطة، وأضاعوا بسهولة الاستنتاج الحتمي: الخطوة التالية سوف تكون ولادة آلات فائقة الذكاء.

لم يؤيد معظم الرواد الاهتمام الناشئ في المجتمع، معتبرين أنه محض هراء أن مشاريعهم تحمل مخاطر معينة على الإنسانية[11]. ولم يحاول أي منهم، بالقول أو الفعل - ولا دراسة جادة واحدة حول هذا الموضوع - فهم المخاوف الأمنية أو الشكوك الأخلاقية المرتبطة بإنشاء الذكاء الاصطناعي والهيمنة المحتملة لأجهزة الكمبيوتر؛ هذه الحقيقة مثيرة للدهشة حتى على خلفية المعايير غير العالية جدًا لتقييم التقنيات الجديدة المميزة لتلك الحقبة. لا يسعنا إلا أن نأمل أنه بحلول الوقت الذي تؤتي فيه رؤيتهم الجريئة ثمارها أخيرًا، لن نكون قد حققنا الخبرة العلمية والتكنولوجية الجديرة بمواجهة التطور الهائل للذكاء الاصطناعي فحسب، بل سنرتفع أيضًا إلى أعلى مستوى من الاحترافية، الأمر الذي لن يتأذى على الإطلاق إذا أرادت البشرية النجاة من ظهور الآلات فائقة الذكاء في عالمها.

ولكن قبل أن نوجه نظرنا إلى المستقبل، سيكون من المفيد أن نتذكر بإيجاز تاريخ إنشاء الذكاء الآلي.

طريق الأمل واليأس