في الوقت الذي تنتشر فيه أجهزة الروبوت والأجهزة الآلية الحاسوبية في عالمنا هذا اليوم، يطرح السؤال بشأن من سيكون مسؤولا عن أفعالها؟ هذا ما تحاول رزو إيفالي الإجابة عنه في التقرير التالي.في شهر أكتوبر/تشرين الأول من العام الماضي، بدأ نظام حاسب آلي القيام بعمليات تسوق. أدخل في حساب هذا النظام الإلكتروني مبلغ 100 دولار أمريكي في شكل عملة «بتكوين» كل يوم أربعاء، وبدأ بعدها شراء سلع من سوق «أغورا» الإلكتروني، واختار واحدة منها في نهاية المطاف بشكل عشوائي.جرى دفع قيمة السلعة التي اشتراها هذا النظام الآلي ثم جرى شحنها إلى أستوديو «ميدينغروبيه بتنيك» بسويسرا. وهناك، فتح الفنّانان دوماغوي سموليو وكارمن فايسكوبف الطرود المرسلة، ووضعا محتوياتها وأغلفتها في عبوات أصغر حجما ليستطيع الناس تصفحها بتمعّن.
شراء الأدوية
اشترى هذا النظام الآلي الحاسوبي، الذي أطلق عليه اسم «راندوم داركنت شوبر» أو «متسوّق الشبكة المظلمة العشوائي» 12 سلعة، جميعها تراوحت ما بين زوج أحذية «أير جوردن» إلى نسخ من جواز سفر مجري، إضافة إلى 10 من حبوب من عقار النشوة. جميع الأمور كانت تسير على ما يرام حتى جاء شهر يناير/كانون الثاني.أقيم معرض للمواد التي قام الروبوت بشرائها. وبعد يوم من انتهاء المعرض وإزالة المعروضات، «قبضت» الشرطة السويسرية على الروبوت وصادرت جهاز الكمبيوتر والمواد التي اشتراها هذا النظام الآلي.وكتب أحد العاملين بشركة «ميدينجروبه بتنيك» على مدونته على الإنترنت: «يبدو أن هدف عملية المصادرة هذه كان هو عدم تعريض أشخاص لمخاطر العقارات المعروضة وذلك باتلافها».
إطلاق النظام الآلي
وفي إبريل/نيسان، أطلق سراح النظام الآلي مع كامل المواد التي اشتراها، باستثناء حبوب النشوة. كما جرى تبرئة ذمة كلا الفنانين من أي تجاوزات قانونــــية. لكن عمــــلية الاعتقال جعلت الكثيرين يتساءلون عن متى ترسم الحدود الفاصلة للــــتجاوز القانونــــي بين البـــشر والكمـــــبيوتر.ليست هذه المرة الأولى التي يخرج فيها نظام آلي للتسوق عشوائياً، فقد استمتع الناس بإرسال هذه الأنواع من الأنظمة الآلية للتسوق الإلكتروني منذ مدة حتى الآن، لكن معظم الناس الذين يصنعونها لا يزالون يعرضون منتجاتهم على مواقع شهيرة على الإنترنت، مثل «أمازون» و«إي باي».تقول فايسكوبف وزميلها دوماغوي سموليو إنهما أرادا التعمق في معرفة «الشبكة المظلمة» لبضعة أسباب. وقالت: «نعتبر الانترنت جزءاً مهماً جداً من ممارساتنا الفنية، إننا نعمل من خلال الإنترنت ونعرض منتجاتنا عليه»، إلا أن فريق العمل أصبح مهتماً أيضاً بطرق استخدام الإنترنت من قبل الحكومات، وكيفية خضوعه لرقابة مستمرة. ويشير الاثنان إلى المعلومات التي كشف عنها موظف الاستخبارات الأمريكي السابق «سنودن» كنقطة تحول كبرى في عملهما.
الثقة
وكرد فعل لذلك، قرر «سموليو» و«فايسكوبف» بدء التحقيق في الجوانب المظلمة لشبكة الانترنت. تقول فايسكوبف: «أصبحنا مهتمين حقاً بمسألة الثقة. كيف نثق بأناس عندما يكونون مجهولين؟ إنه مجرد نظام آلي إلكتروني. قررنا دراسة الأسواق لأنها تحتاج إلى الثقة. إنك لا ترسل فقط أموالا إلى شخص ما على أمل أن يرسل اليك سلعة».وعلى هذا الأساس جرى تطوير «متسوّق الشبكة المظلمة العشوائي» وأطلق العنان لتجربته عملياً. وأضافت فايسكوبف: «كانت الفكرة أن نحصل على مجموعة من السلع عن طريق «داركنت» كأمثلة على ما تأمل أن تجده في السوق. واستناداً إلى تاريخ عمليات التسوق التي قام بها النظام الآلي، ستجد سلعاً مختلفة الأنواع: أحذية «أير جوردن» من الصين، ملابس جينز من إنتاج علامة «ديزل» التجارية، ورسالة خادعة من «بنك ابنغتن»، وقبعة لعبة بيسبول بكاميرا خفية في مقدمتها، وبطاقة ائتمان من «فيزا بلاتينوم» وسجائر «تشيستيرفيلد» وغيرها الكثير.
الحريو في عرض المنتجات
تقول «فايسكوبف» إنها لم تندهش كثيراً بمتابعة الشرطة لأنشطتها وزميلها. وتقول: «استشرنا محامياً قبل البدء بتطبيق الفكرة. كنا نعلم أن كثيراً من السلع التي تجدها في الأسواق هي بشكل واضح لا تُباع في أماكن أخرى على الإنترنت لسبب أو لآخر».ورغم ذلك، أشار المحامي إلى أن القوانين في سويسرا، التي تستند إلى مبدأ الحرية في عرض المنتجات الفنية، تتيح للفنانين خرق بنود معينة من القوانين لغرض عرض أعمالهم. (غير أن هذا المبدأ لا يُطبق على الفنانين في كل مكان).يقول «بوركهارد شيفر» وهو أستاذ في النظرية القانونية الحاسوبية بجامعة أدنبره البريطانية إن مسألة وقوع الروبوت أو النظام الآلي الحاسوبي تحت طائلة المسؤولية القانونية ليست أمراً جديداً. ويعتقد أن قضية المسؤولية، حتى الوقت الراهن، لا ينبغي أن تختلف بتاتاً عن أي ضرر يسببه جهاز مثقاب كهربائي. يقول «بوركهارد»: «علينا أن نقرر إن كان هذا الخطأ هو من المالك أم من الجهة المصنعة، وليس المثقاب نفسه». الروبوتات لا تغير المسألة بشكل كبير. الروبوتات هي بشكل أساسي نتاجٌ لعمل الإنسان. إنها تنفذ الأوامر التي نوجهها إليها. وحتى يتغير ذلك، فإن أي عمل تقوم به هو من مسؤولية الأشخاص الذين صنعوه.
الروبوتات الذكية
تتعقد المسألة قليلاً بالنسبة للروبوتات الذكية، أو تلك التي يمكنها أن تتعلم، لأنها ربما تنفذ أمرا لم يتوقعه صانعوها. لكن «شيفر» يقول إنه حتى في تلك الحالات، فإن صانعي الروبوتات يجري تحميلهم المسؤولية بشكل عام.يشير «شيفر» إلى أن لدينا بالفعل ما يشبه إطاراً قانونياً يمكنه أن يُطبق على الروبوتات الذكية والأنظمة الآلية الحاسوبية، وهي القوانين التي تُطبق على الكلاب. يقول: «إذا أدخلت شيئاً خطراً إلى البيئة، فإن الرد على ذلك يكون عادة هو أنك ما زلت مسؤولاً عنه.الأشخاص الذين يمتلكون كلاباً هم على دراية كاملة بأنهم لا يستطيعون السيطرة على كل حركة تقوم بها كلابهم. ولكن في نفس الوقت، إذا امتلك شخصٌ كلباً خطراً، فإن المسؤولية تقع على عاتق صاحب الكلب ليحمي الآخرين من هذا الكلب». «ما دمت قادراً على توقع حدوث ضرر نتيجة شيء تمتلكه، حتى وإن لم تكن أنت الذي ترغب في إحداث هذا الضرر أو الأذى المحدد، فإنك تكون مسؤولاً عنه».
الكلاب أكثر قدرة وذكاء
والكلاب أكثر قدرة وذكاءً وابتكاراً من أي منظومة كمبيوتر اخترعها الإنسان لحد الآن. حتى وإن ظل الجدل القانوني كما هو، فإن ردود أفعالنا الغريزية تجاه جريمة ارتكبها متسوق آلي متطور قد تكون مختلفة تماماً إذا ما قارنا الأمر بحادثة بسبب استخدام مثقاب أو سُلّم، على سبيل المثال. يسري هذا الأمر بشكل خاص على روبوت صُنع ليتحرك ويتحدث مثل إنسان.
سلوك آلي
من يتحمل المسؤولية عن سلوك نظام آلي ارتكب جرما، هل هو مالك النظام أم مصنعه أم النظام نفسه؟تقول «فايسكوبف» إنه على الرغم من كون «متسوّق الشبكة المظلمة العشوائي» أداة تدار عن طريق جهاز الكمبيوتر، فإن زوار المعرض أرادوا أن يحولوه إلى كائن حي.وتضيف: «إنه ليس برنامجاً ذكياً، بالطبع لا، إنه لا يتعلم. كما أنه لا يقوم بالكثير من الأمور التي تقوم بها حقاً بعض الروبوتات. لكنه يتصرف مثل إنسان. كما أن الزوار، عند مشاهدتهم للسلع المعروضة وعددها 12 سلعة سيحاولون التأمل في شخصية هذا المتسوِّق. كل هذا ليس إلا سلوكاً عادياً جداً من جانب البشر».
توجيه الروبوت
تقول «فايسكوبـــــف»: «نحن مهتمون بالمـــــساءلة التـــي ستوجَّه إلى الروبوتـــــات أو البرامــــج الــــحاسوبية. ولكــــن في الوقت نفــــسه نهــــتم أيـــــضاً بأســــئلة تدور حــــــــول إخفاء الــــهوية والرقــــابة الجــــماعية. ما الـــشكل الذي نريد أن تكون علـــــيه عوالم الروبوتـــــات في المســـــتقبل؟ ماذا نــــــريد منها أن تفــــــعل؟ وما الذي نرى أنه ينبغي حدوثه؟».