المسؤولية القانونية عن أضرار الذكاء الاصطناعي

مقدمة

أدى التطور المتسارع في تقنيات الذكاء الاصطناعي إلى إحداث تحولات جوهرية في مختلف مجالات الحياة، حيث أصبحت الأنظمة الذكية تؤدي وظائف كانت تقتصر في السابق على الإنسان، سواء في المجال الطبي أو الصناعي أو التجاري أو الإداري أو القضائي. ولم يعد دور هذه الأنظمة مقتصراً على تنفيذ الأوامر والعمليات الحسابية، بل امتد ليشمل تحليل البيانات والتعلم الذاتي وتقديم التوصيات واتخاذ قرارات قد تترتب عليها آثار قانونية واقتصادية واجتماعية مهمة.

وقد ساهم هذا التطور في تحسين كفاءة العديد من الخدمات وتوفير الوقت والجهد وتعزيز الابتكار، غير أنه أفرز في المقابل مجموعة من المخاطر القانونية الجديدة، خاصة عندما تتسبب الأنظمة الذكية في إلحاق أضرار بالأشخاص أو الأموال أو الحقوق والمصالح المشروعة.

وتكمن خصوصية هذه الإشكالية في أن الضرر الناتج عن استخدام الذكاء الاصطناعي قد لا يكون مرتبطاً بسلوك بشري مباشر وواضح، وإنما قد ينتج عن خلل في التصميم أو البرمجة أو التدريب أو البيانات المستخدمة، أو عن طريقة تشغيل النظام أو عدم مراقبته بصورة مناسبة. وهو ما يثير صعوبة تحديد الشخص المسؤول عن الضرر، خاصة عندما تتداخل أدوار المطور والمنتج والمورد والمشغل والمستخدم.

كما تطرح هذه المسألة تساؤلات تتعلق بمدى كفاية قواعد المسؤولية القانونية التقليدية لاستيعاب الأضرار الناتجة عن الأنظمة الذكية، ومدى إمكانية تطبيق قواعد المسؤولية العقدية والتقصيرية ومسؤولية المنتج، فضلاً عن تحديد إمكانية مساءلة الأشخاص عن الأفعال غير المشروعة المرتبطة باستخدام الذكاء الاصطناعي.

وتزداد أهمية الموضوع في ظل التحولات التشريعية الدولية، حيث اعتمد الاتحاد الأوروبي التنظيم رقم 2024/1689 المتعلق بالذكاء الاصطناعي، الذي وضع إطاراً قانونياً قائماً على تصنيف الأنظمة بحسب مستوى المخاطر وفرض التزامات على الجهات المعنية بتطويرها واستخدامها. كما تبرز أهمية دراسة الموضوع في الجزائر، بالنظر إلى ضرورة تطوير الإطار القانوني الوطني لمواكبة التحولات الرقمية وضمان حماية الأفراد من الأضرار المحتملة لهذه التكنولوجيا.

ومن هذا المنطلق، تبرز الحاجة إلى دراسة المسؤولية القانونية عن أضرار الذكاء الاصطناعي، من خلال تحديد أساسها القانوني وأطرافها وصورها، وتحليل مدى كفاية القواعد القانونية الحالية لمعالجة الإشكالات التي تثيرها، وصولاً إلى اقتراح آليات تشريعية وتنظيمية تضمن تحقيق التوازن بين تشجيع الابتكار وحماية الحقوق والحريات.

أولاً: إشكالية البحث

إلى أي مدى تستطيع القواعد القانونية التقليدية استيعاب الأضرار الناتجة عن استخدام أنظمة الذكاء الاصطناعي، وتحديد المسؤولية القانونية للأطراف المتدخلة في تطويرها وتشغيلها واستخدامها، في ظل غياب إطار تشريعي شامل ومستقل ينظم المسؤولية عن هذه الأنظمة في العديد من التشريعات الوطنية؟

ثانياً: التساؤلات الفرعية

1. ما المقصود بالذكاء الاصطناعي، وما الخصائص التي تميزه عن الوسائل التكنولوجية التقليدية؟

2. ما الأساس القانوني للمسؤولية عن الأضرار الناتجة عن استخدام أنظمة الذكاء الاصطناعي؟

3. من يتحمل المسؤولية القانونية عن الضرر: المطور أم المنتج أم المشغل أم المستخدم؟

4. ما مدى إمكانية تطبيق قواعد المسؤولية المدنية والجزائية على الأضرار الناتجة عن الذكاء الاصطناعي؟

5. ما موقف التشريع الجزائري من الأضرار المرتبطة باستخدام الأنظمة الذكية؟

6. كيف عالجت التشريعات المقارنة، ولا سيما التشريع الأوروبي، المخاطر القانونية المرتبطة بالذكاء الاصطناعي؟

7. ما الآليات القانونية الكفيلة بتطوير نظام فعال للمسؤولية عن أضرار الذكاء الاصطناعي؟

ثالثاً: فرضيات البحث

ينطلق البحث من الفرضيات الآتية:

1. إن القواعد التقليدية للمسؤولية القانونية يمكن أن تستوعب جانباً مهماً من الأضرار الناتجة عن الذكاء الاصطناعي، لكنها قد تواجه صعوبات في بعض الحالات بسبب تعقيد الأنظمة الذكية واستقلالية بعض وظائفها.

2. لا ينبغي إسناد المسؤولية إلى طرف واحد بصورة مطلقة، بل يجب تحديدها وفق طبيعة الدور الذي أداه كل متدخل ومدى مساهمته في وقوع الضرر.

3. تتحمل الجهات المطورة والمنتجة والمشغلة والمستخدمة التزامات قانونية تختلف باختلاف طبيعة تدخلها والسيطرة التي تمارسها على النظام الذكي.

4. لا يكفي الإطار القانوني العام وحده لمواجهة جميع مخاطر الذكاء الاصطناعي، مما يستدعي تطوير قواعد خاصة للوقاية والشفافية والمساءلة.

5. يحتاج التشريع الجزائري إلى تعزيز تنظيمه القانوني للمخاطر المرتبطة بالذكاء الاصطناعي، مع الاستفادة من التجارب التشريعية المقارنة.

رابعاً: أهمية البحث

تتجلى أهمية الموضوع في جانبين:

1. الأهمية العلمية:

تتمثل في دراسة إحدى الإشكاليات القانونية الحديثة الناتجة عن التطور التكنولوجي، وإثراء النقاش الفقهي المتعلق بأساس المسؤولية القانونية عن أضرار الذكاء الاصطناعي، ومدى ملاءمة القواعد التقليدية للتطورات التقنية المعاصرة.

2. الأهمية العملية:

تظهر في إمكانية الاستفادة من نتائج الدراسة في تطوير التشريعات الوطنية، وتعزيز حماية الأفراد والمؤسسات من الأضرار الناتجة عن الأنظمة الذكية، وتحديد الالتزامات القانونية للجهات التي تعمل على تطوير هذه الأنظمة أو تسويقها أو استخدامها.

خامساً: أهداف البحث

يهدف البحث إلى:

- تحديد مفهوم الذكاء الاصطناعي وخصائصه القانونية والتقنية.

- تحليل الأساس القانوني للمسؤولية عن الأضرار الناتجة عن الأنظمة الذكية.

- تحديد الأطراف التي يمكن أن تتحمل المسؤولية القانونية.

- دراسة صور المسؤولية المدنية والجزائية المرتبطة باستخدام الذكاء الاصطناعي.

- تحليل موقف التشريع الجزائري من هذه الإشكالية.

- دراسة أهم التوجهات التشريعية الدولية والمقارنة.

- اقتراح آليات قانونية لضمان الحماية الفعالة للأشخاص المتضررين.

سادساً: مناهج البحث

اعتمدنا على المنهج التحليلي من خلال تحليل القواعد القانونية المتعلقة بالمسؤولية المدنية والجزائية وحماية البيانات والملكية الفكرية.

كما استعنا بالمنهج المقارن من خلال دراسة بعض التوجهات التشريعية الدولية، خاصة التنظيم الأوروبي للذكاء الاصطناعي، ومقارنتها بالإطار القانوني الجزائري.

واستخدمنا المنهج الوصفي لتحديد المفاهيم التقنية والقانونية المرتبطة بالذكاء الاصطناعي وأهم تطبيقاته ومخاطره.

سابعاً: خطة البحث

لمعالجة الإشكالية المطروحة، تم تقسيم البحث إلى فصلين:

الفصل الأول: الإطار المفاهيمي والقانوني للمسؤولية عن أضرار الذكاء الاصطناعي.

- المبحث الأول: ماهية الذكاء الاصطناعي وطبيعة أضراره.

- المبحث الثاني: الأساس القانوني للمسؤولية عن أضرار الذكاء الاصطناعي.

الفصل الثاني: صور المسؤولية القانونية وآفاق تنظيمها التشريعي.

- المبحث الأول: المسؤولية المدنية والجزائية عن أضرار الذكاء الاصطناعي.

- المبحث الثاني: التنظيم التشريعي المقارن وآفاق تطوير المسؤولية القانونية في الجزائر.

الفصل الأول: الإطار المفاهيمي والقانوني للمسؤولية عن أضرار الذكاء الاصطناعي

أدى الانتشار الواسع لتقنيات الذكاء الاصطناعي إلى ظهور إشكاليات قانونية تتعلق بطبيعة هذه الأنظمة ومدى إمكانية إسناد المسؤولية عن الأضرار التي تسببها. ويقتضي تحديد الحلول القانونية المناسبة الوقوف أولاً على مفهوم الذكاء الاصطناعي وخصائصه ومصادر مخاطره، ثم دراسة الأسس القانونية التي يمكن الاعتماد عليها لتحديد المسؤولية.

المبحث الأول: ماهية الذكاء الاصطناعي وطبيعة أضراره

المطلب الأول: مفهوم الذكاء الاصطناعي وخصائصه

الفرع الأول: تعريف الذكاء الاصطناعي

يقصد بالذكاء الاصطناعي مجموعة من الأنظمة والتقنيات الحاسوبية التي تمكن الآلات والبرمجيات من تنفيذ مهام تتطلب عادةً قدرات ذهنية بشرية، مثل التعلم والتحليل والاستنتاج والتنبؤ والتعرف على الأنماط ومعالجة اللغة الطبيعية.

ومن الناحية التقنية، يعتمد الذكاء الاصطناعي على خوارزميات ونماذج رياضية وبرمجية يتم تدريبها على مجموعات من البيانات، بهدف إنتاج نتائج أو توصيات أو قرارات تساعد في معالجة مشكلات معينة.

أما من الناحية القانونية، فيمكن النظر إلى الذكاء الاصطناعي باعتباره وسيلة تقنية قد تنتج عن استخدامها آثار قانونية، سواء تعلق الأمر بإبرام المعاملات أو معالجة البيانات أو اتخاذ القرارات أو إلحاق الأضرار بالغير.

ولا يعني ذلك أن النظام الذكي يتمتع بالشخصية القانونية أو بالذمة المالية المستقلة، وإنما تظل مسألة تحديد المسؤولية مرتبطة بالأشخاص الطبيعيين أو المعنويين الذين يطورون النظام أو ينتجونه أو يشغلونه أو يستخدمونه، بحسب الأحوال والقواعد القانونية الواجبة التطبيق.

وتتعدد تطبيقات الذكاء الاصطناعي، ومن أهمها:

1. الذكاء الاصطناعي الطبي المستخدم في تحليل الصور الطبية والمساعدة في التشخيص.

2. الذكاء الاصطناعي الصناعي المستخدم في تشغيل الروبوتات والآلات.

3. الذكاء الاصطناعي المالي المستخدم في تحليل المعاملات واكتشاف الاحتيال.

4. الذكاء الاصطناعي الإداري المستخدم في معالجة البيانات وتقديم التوصيات.

5. الذكاء الاصطناعي التوليدي المستخدم في إنشاء النصوص والصور والمحتويات الرقمية.

الفرع الثاني: الخصائص التقنية المؤثرة في تحديد المسؤولية القانونية

تتميز أنظمة الذكاء الاصطناعي بعدة خصائص تجعل تحديد المسؤولية عن أضرارها أكثر تعقيداً مقارنة بالوسائل التقليدية.

أولاً: القدرة على التعلم والتكيف

تستطيع بعض الأنظمة الذكية تحسين أدائها من خلال التعلم من البيانات والتجارب السابقة، وقد تتغير مخرجاتها بمرور الوقت، وهو ما يثير صعوبة تحديد ما إذا كان الضرر ناتجاً عن خطأ في التصميم الأصلي أم عن تطور النظام بعد تشغيله.

ثانياً: الاستقلالية النسبية

تستطيع بعض الأنظمة تنفيذ عمليات واتخاذ قرارات ضمن حدود معينة دون تدخل بشري مباشر في كل مرحلة، وهو ما قد يؤدي إلى ظهور أضرار يصعب توقعها مسبقاً.

ثالثاً: التعقيد التقني

تعتمد الأنظمة المتقدمة على نماذج وخوارزميات معقدة، وقد يصعب أحياناً تفسير الأسباب الدقيقة التي أدت إلى إنتاج نتيجة معينة، وهو ما يعرف بمشكلة الصندوق الأسود.

رابعاً: الاعتماد على البيانات

ترتبط جودة مخرجات الذكاء الاصطناعي بطبيعة البيانات التي يتم تدريبه عليها، فإذا كانت هذه البيانات غير دقيقة أو متحيزة، فقد ينتج عنها قرارات خاطئة أو تمييزية.

خامساً: تعدد المتدخلين

قد تمر عملية تطوير النظام الذكي بعدة مراحل يشارك فيها المطور والمنتج ومزود البيانات ومقدم الخدمة والمشغل والمستخدم، مما يجعل تحديد الطرف المسؤول عن الضرر أمراً يحتاج إلى تحليل دقيق.

المطلب الثاني: صور الأضرار الناتجة عن استخدام الذكاء الاصطناعي

الفرع الأول: الأضرار المادية والجسدية

قد يؤدي استخدام الأنظمة الذكية إلى إلحاق أضرار مادية أو جسدية بالأشخاص، خاصة عندما يتم توظيفها في المجالات الطبية والصناعية والنقل.

ففي المجال الطبي، قد يؤدي اعتماد الطبيب بصورة غير سليمة على نظام ذكي لتقديم التشخيص إلى تأخير العلاج أو اتخاذ قرار طبي خاطئ.

وفي مجال النقل، قد تتسبب الأنظمة المؤتمتة في وقوع حوادث نتيجة خلل تقني أو قصور في تصميم النظام أو عدم التدخل البشري عند الضرورة.

أما في المجال الصناعي، فقد تؤدي الأعطال المرتبطة بالروبوتات الذكية إلى إلحاق أضرار بالعمال أو المعدات أو المنشآت.

وتثير هذه الحالات إشكالية تحديد العلاقة السببية بين النظام الذكي والضرر، وتحديد مدى مساهمة الخطأ البشري أو التقني في وقوعه.

الفرع الثاني: الأضرار المعنوية والاعتداء على الحقوق الشخصية

لا تقتصر الأضرار الناتجة عن الذكاء الاصطناعي على الجانب المادي، بل قد تمتد إلى المساس بالحقوق الشخصية والكرامة والسمعة والخصوصية.

ومن أمثلة ذلك:

- نشر محتوى مزيف باستخدام تقنيات التزييف العميق.

- إنشاء صور أو تسجيلات منسوبة إلى أشخاص دون موافقتهم.

- معالجة البيانات الشخصية بصورة غير مشروعة.

- إنتاج قرارات تمييزية تؤثر في فرص العمل أو الحصول على الخدمات.

- نشر معلومات غير صحيحة تمس بسمعة الأشخاص.

وقد يترتب عن هذه الأفعال ضرر معنوي يستوجب التعويض متى توافرت شروط المسؤولية القانونية.

الفرع الثالث: الأضرار الاقتصادية والمهنية

يمكن للذكاء الاصطناعي أن يؤدي إلى أضرار اقتصادية نتيجة اتخاذ قرارات آلية غير دقيقة، خاصة في المجالات المالية والتجارية والتوظيف.

فقد يؤدي نظام ذكي إلى رفض طلب قرض بصورة غير مبررة، أو استبعاد مترشح من عملية توظيف بسبب بيانات متحيزة، أو تقديم توصيات استثمارية خاطئة تؤدي إلى خسائر مالية.

كما قد يؤدي الاعتماد غير المدروس على الأنظمة الذكية إلى التأثير في بعض المهن والوظائف، وهو ما يثير مسائل قانونية واجتماعية مرتبطة بحماية العمال وضمان التوازن بين الابتكار التكنولوجي والحقوق المهنية.

الفرع الرابع: الأضرار المرتبطة بالملكية الفكرية

يطرح الذكاء الاصطناعي إشكالات متعلقة بحقوق المؤلف والملكية الفكرية، خاصة عندما يتم استخدام مصنفات محمية لتدريب الأنظمة الذكية أو عندما تنتج هذه الأنظمة محتوى يتضمن عناصر مقتبسة من أعمال سابقة.

وتظهر الإشكالية في تحديد مدى مشروعية استخدام المصنفات المحمية، وتحديد المسؤول عن إعادة إنتاج محتوى ينتهك حقوق المؤلف، ومدى إمكانية حماية المخرجات الناتجة عن الأنظمة التوليدية.

وفي الجزائر، يشكل الأمر رقم 03-05 المتعلق بحقوق المؤلف والحقوق المجاورة إطاراً قانونياً أساسياً ينبغي الرجوع إليه عند دراسة هذه المسائل.

المبحث الثاني: الأساس القانوني للمسؤولية عن أضرار الذكاء الاصطناعي

المطلب الأول: المسؤولية العقدية والمسؤولية التقصيرية

الفرع الأول: المسؤولية العقدية عن أضرار الذكاء الاصطناعي

تقوم المسؤولية العقدية عندما يترتب الضرر عن الإخلال بالتزام ناشئ عن عقد صحيح بين الأطراف.

وفي مجال الذكاء الاصطناعي، قد تنشأ هذه المسؤولية في إطار العقود المبرمة بين مقدم النظام الذكي والعميل، أو بين الشركة المنتجة والموزع، أو بين المؤسسة المستخدمة ومقدم الخدمة التقنية.

فعلى سبيل المثال، إذا تعاقدت مؤسسة صحية مع شركة لتوفير نظام ذكي يساعد في تحليل الصور الطبية، وكان النظام مخالفاً للمواصفات المتفق عليها أو لم يلتزم مقدم الخدمة بواجبات الصيانة والتحديث المحددة تعاقدياً، فقد تنشأ مسؤولية عقدية وفقاً لشروط العقد والقواعد القانونية المطبقة.

وتتطلب المسؤولية العقدية بوجه عام إثبات وجود عقد، والإخلال بالتزام عقدي، ووقوع ضرر، وتوافر العلاقة السببية بين الإخلال والضرر.

غير أن تحديد المسؤولية قد يصبح أكثر تعقيداً عندما يكون سبب الضرر راجعاً إلى تدخل طرف ثالث أو خلل في البيانات أو استعمال النظام خارج الحدود المتفق عليها.

الفرع الثاني: المسؤولية التقصيرية عن أضرار الذكاء الاصطناعي

تقوم المسؤولية التقصيرية عندما يؤدي فعل غير مشروع أو خطأ إلى إلحاق ضرر بالغير دون أن يكون مصدر الالتزام عقداً قائماً بين الطرفين.

وتكتسب هذه المسؤولية أهمية كبيرة في مجال الذكاء الاصطناعي، خاصة عندما يتضرر شخص من نظام ذكي دون وجود علاقة تعاقدية تربطه بالجهة التي طورته أو أنتجته.

وفي التشريع الجزائري، يشكل القانون المدني الصادر بموجب الأمر رقم 75-58 المعدل والمتمم الإطار العام للمسؤولية المدنية.

وتنص المادة 124 من القانون المدني على المبدأ العام للمسؤولية عن الفعل الشخصي، ومفاده أن كل فعل يرتكبه الشخص بخطئه ويسبب ضرراً للغير يلزمه بالتعويض.

وبناءً على ذلك، يمكن الاستناد إلى القواعد العامة للمسؤولية التقصيرية لمساءلة الشخص الذي يثبت خطؤه في تطوير النظام الذكي أو تشغيله أو مراقبته، متى توافرت شروط المسؤولية.

وتتمثل أركان المسؤولية التقصيرية في:

1. الخطأ:

يقصد به الإخلال بواجب قانوني يفرض على الشخص التصرف وفقاً لما يتطلبه الحيطة والحذر، وقد يتمثل في تصميم نظام غير آمن، أو إهمال اختباره، أو استخدام بيانات غير مناسبة، أو عدم اتخاذ التدابير اللازمة لمنع وقوع الضرر.

2. الضرر:

يشترط أن يكون الضرر محققاً ومشروعاً وقابلاً للتعويض وفقاً للقواعد القانونية، وقد يكون مادياً أو معنوياً.

3. العلاقة السببية:

يجب إثبات وجود علاقة سببية بين الخطأ والضرر، وهي من أصعب المسائل في مجال الذكاء الاصطناعي بسبب تعدد المتدخلين وتعقيد العمليات التقنية.

الفرع الثالث: صعوبات إثبات الخطأ والعلاقة السببية

تُعد مسألة الإثبات من أبرز العقبات التي تواجه المتضرر من أنظمة الذكاء الاصطناعي.

فقد يكون النظام معقداً إلى درجة يصعب معها فهم الطريقة التي توصل بها إلى نتيجة معينة، كما قد لا يتمكن المتضرر من الوصول إلى المعلومات التقنية المتعلقة بالبرمجيات والبيانات المستخدمة.

وتظهر الصعوبة بصورة أكبر عندما يشترك عدة أطراف في تطوير النظام وتشغيله، حيث يصعب تحديد المرحلة التي وقع فيها الخلل.

ولهذا تبرز الحاجة إلى تطوير قواعد الإثبات، وتعزيز واجبات توثيق العمليات التقنية، وفرض التزامات تتعلق بحفظ السجلات وإتاحة المعلومات الضرورية للجهات المختصة والقضاء.

المطلب الثاني: أساس المسؤولية عن فعل الغير والمنتجات المعيبة

الفرع الأول: مسؤولية المنتج والمطور

قد تنشأ المسؤولية عن الأضرار الناتجة عن الذكاء الاصطناعي نتيجة عيب في المنتج أو خلل في تصميم النظام أو قصور في المعلومات والتحذيرات المصاحبة له.

ويشمل ذلك الحالات التي يتم فيها تسويق جهاز ذكي أو روبوت أو نظام تقني لا يوفر مستوى السلامة الذي يمكن توقعه بصورة مشروعة.

كما قد يسأل المطور عن الأخطاء المرتبطة بالبرمجة أو التدريب أو الاختبار، إذا ثبت إخلاله بالالتزامات المهنية أو القانونية التي تقع على عاتقه.

ولا تعني هذه المسؤولية أن المطور يتحمل جميع الأضرار الناتجة عن النظام بصورة تلقائية، بل ينبغي تحديد طبيعة العيب والخطأ ومدى علاقته بالضرر والقواعد القانونية المنطبقة.

الفرع الثاني: مسؤولية المشغل والمستخدم

قد يتحمل مشغل النظام أو مستخدمه المسؤولية إذا ثبت أنه استعمل النظام بصورة مخالفة للتعليمات أو تجاوز حدود الاستخدام المسموح بها أو أهمل واجبات الرقابة والصيانة.

فمثلاً، إذا استخدمت مؤسسة نظاماً ذكياً في اتخاذ قرارات مؤثرة على حقوق الأفراد دون إجراء الاختبارات اللازمة أو دون مراجعة بشرية مناسبة، فقد تنشأ مسؤوليتها وفقاً لطبيعة دورها والالتزامات المفروضة عليها.

كما يمكن أن يسأل المستخدم الذي يستعمل أدوات الذكاء الاصطناعي عمداً لإنتاج محتوى احتيالي أو الاعتداء على خصوصية الآخرين أو انتهاك حقوقهم.

الفرع الثالث: تعدد المسؤولين وتوزيع المسؤولية

قد يكون الضرر الناتج عن الذكاء الاصطناعي نتيجة تداخل عدة أخطاء، مثل وجود عيب في التصميم، وبيانات غير دقيقة، وقصور في الرقابة، واستعمال غير مناسب.

وفي هذه الحالة ينبغي تحديد مساهمة كل طرف في وقوع الضرر، وفقاً للقواعد القانونية المتعلقة بتعدد المسؤولين والمساهمة في إحداث الضرر.

ويقتضي ذلك التمييز بين:

- مسؤولية المطور عن العيوب البرمجية.

- مسؤولية المنتج عن عيوب المنتج وسلامته.

- مسؤولية مقدم الخدمة عن الالتزامات التي تعهد بها.

- مسؤولية المشغل عن سوء التشغيل أو الإهمال في الرقابة.

- مسؤولية المستخدم عن الاستعمال غير المشروع أو المخالف للتعليمات.

وبذلك فإن تحديد المسؤولية لا ينبغي أن يقوم على مجرد الصفة التي يحملها الشخص، بل على طبيعة الالتزام الذي أخل به ومدى مساهمته في وقوع الضرر.

---

الفصل الثاني: صور المسؤولية القانونية وآفاق تنظيمها التشريعي

لا تقتصر الإشكالات القانونية المرتبطة بالذكاء الاصطناعي على المسؤولية المدنية، بل تمتد إلى المجال الجزائي وإلى ضرورة تطوير التنظيم التشريعي لمواجهة المخاطر الجديدة. ولذلك يقتضي الأمر دراسة صور المسؤولية القانونية، ثم تحليل التجارب التشريعية المقارنة وإمكانية الاستفادة منها في تطوير الإطار القانوني الجزائري.

المبحث الأول: المسؤولية المدنية والجزائية عن أضرار الذكاء الاصطناعي

المطلب الأول: المسؤولية المدنية عن الأضرار الناتجة عن الذكاء الاصطناعي

الفرع الأول: التعويض عن الأضرار المادية والمعنوية

يُعد التعويض الوسيلة القانونية الأساسية لجبر الضرر الذي يصيب الشخص نتيجة الفعل غير المشروع.

وفي مجال الذكاء الاصطناعي، يمكن أن يشمل التعويض الأضرار المادية التي تصيب الأشخاص أو الأموال، وكذلك الأضرار المعنوية الناتجة عن المساس بالسمعة أو الخصوصية أو الكرامة.

فإذا تسبب نظام ذكي في نشر معلومات كاذبة تضر بسمعة شخص معين، أو أدى إلى اتخاذ قرار غير مشروع تسبب في خسارة مالية، فقد يحق للمتضرر المطالبة بالتعويض متى ثبتت شروط المسؤولية.

ويجب أن يتناسب التعويض مع طبيعة الضرر ومداه، وأن يهدف إلى إعادة التوازن القانوني بقدر الإمكان.

الفرع الثاني: المسؤولية عن الأضرار الناتجة عن القرارات الآلية

أصبحت بعض المؤسسات تعتمد على أنظمة ذكية للمساعدة في اتخاذ قرارات تتعلق بالتوظيف والتمويل والتأمين وتقديم الخدمات.

وقد يؤدي الاعتماد غير المشروع على هذه الأنظمة إلى المساس بحقوق الأفراد، خاصة عندما يتم اتخاذ قرارات مؤثرة دون رقابة بشرية كافية أو دون توفير إمكانية الاعتراض والمراجعة.

وتبرز أهمية هذه المسألة في ضرورة ضمان الشفافية وعدم التمييز، وتمكين الأفراد من معرفة الأسس العامة التي بنيت عليها القرارات التي تمس مصالحهم، وفقاً للقواعد القانونية المنطبقة.

الفرع الثالث: مسؤولية المنتج عن عيوب الأنظمة الذكية

تكتسب مسؤولية المنتج أهمية خاصة عندما يكون الضرر ناتجاً عن عيب في جهاز أو منتج يتضمن نظاماً ذكياً.

وقد يتمثل العيب في خلل تقني أو قصور في إجراءات السلامة أو عدم توفير التحذيرات الضرورية أو وجود خلل في البرمجيات الأساسية التي يتحكم بها المنتج.

ويجب التمييز بين عيوب المنتج المادي والأخطاء المرتبطة بالخدمات الرقمية والبرمجيات، لأن الطبيعة القانونية لكل حالة قد تختلف بحسب التشريع المطبق.

ومن ثم فإن تطوير قواعد خاصة بمسؤولية المنتجات التي تتضمن تقنيات الذكاء الاصطناعي يمثل أحد الاتجاهات المهمة في تحديث القانون المدني.

المطلب الثاني: المسؤولية الجزائية عن الأفعال المرتبطة بالذكاء الاصطناعي

الفرع الأول: مدى إمكانية مساءلة الأشخاص عن الجرائم المرتبطة بالذكاء الاصطناعي

تثير الأنظمة الذكية إشكالية مهمة تتعلق بإمكانية استخدامها في ارتكاب أفعال تشكل جرائم يعاقب عليها القانون.

ومن أبرز الأمثلة:

- الاحتيال باستخدام تقنيات التزييف العميق.

- انتحال هوية الأشخاص.

- إنشاء محتوى رقمي بقصد الابتزاز أو التشهير.

- الاعتداء على الأنظمة المعلوماتية.

- استعمال البيانات الشخصية بصورة غير مشروعة.

- إنتاج أو نشر محتوى محظور قانوناً.

وفي هذه الحالات، يجب تحديد الشخص الطبيعي أو المعنوي الذي قام بالفعل المجرّم أو ساهم فيه وفقاً للقواعد القانونية، وعدم افتراض مسؤولية جنائية لمجرد ارتباط الشخص بنظام الذكاء الاصطناعي.

الفرع الثاني: مبدأ شخصية المسؤولية الجزائية

يقوم القانون الجنائي على مبدأ شخصية المسؤولية والعقوبة، فلا يجوز معاقبة شخص لمجرد وقوع ضرر دون ثبوت مسؤوليته وفقاً للأركان والشروط القانونية.

وبالتالي، لا يمكن اعتبار النظام الذكي فاعلاً جنائياً مستقلاً لمجرد امتلاكه القدرة على تنفيذ عمليات معقدة أو إنتاج نتائج غير متوقعة.

بل يجب البحث عن دور الأشخاص الذين قاموا بتطويره أو تشغيله أو استخدامه، وتحديد ما إذا كانت أفعالهم تتضمن قصداً جنائياً أو خطأً معاقباً عليه بموجب نص قانوني.

كما ينبغي التمييز بين الخطأ التقني غير المقصود والفعل الإجرامي العمدي، لأن لكل منهما شروطاً وآثاراً قانونية مختلفة.

الفرع الثالث: صعوبة تحديد القصد الجنائي

تظهر صعوبة خاصة عندما يتم ارتكاب فعل غير مشروع باستخدام نظام ذكي دون أن تكون جميع نتائجه متوقعة من المستخدم.

فقد يستخدم الشخص نظاماً معيناً لغرض مشروع، ثم ينتج عنه محتوى أو نتيجة غير متوقعة.

وفي هذه الحالة يجب تحديد مدى علم المستخدم بطبيعة الفعل ونتائجه، ومدى إرادته في ارتكابه، وفقاً للأحكام القانونية المتعلقة بالقصد الجنائي والخطأ.

ولا يكفي مجرد استخدام الذكاء الاصطناعي لإثبات توافر الركن المعنوي للجريمة، بل يتعين التحقق من ظروف الواقعة والأدلة المتاحة.

المبحث الثاني: التنظيم التشريعي المقارن وآفاق تطوير المسؤولية القانونية في الجزائر

المطلب الأول: التوجهات التشريعية الدولية والمقارنة

الفرع الأول: التنظيم الأوروبي للذكاء الاصطناعي

اعتمد الاتحاد الأوروبي التنظيم رقم 2024/1689 المؤرخ في 13 يونيو 2024، والمتعلق بوضع قواعد منسقة بشأن الذكاء الاصطناعي، والمعروف باسم قانون الذكاء الاصطناعي الأوروبي.

ويُعد هذا التنظيم من أبرز المحاولات التشريعية الشاملة لتنظيم استخدام الأنظمة الذكية، حيث يقوم على مبدأ تصنيف الأنظمة بحسب مستوى المخاطر التي قد تشكلها على الصحة والسلامة والحقوق الأساسية.

وقد اعتمد التنظيم مقاربة قائمة على مستويات متعددة من المخاطر، من بينها:

1. الأنظمة ذات المخاطر غير المقبولة:

وهي الأنظمة التي تعتبر بعض ممارساتها محظورة بسبب تعارضها مع الحقوق الأساسية أو تهديدها لسلامة الأفراد.

2. الأنظمة عالية المخاطر:

تخضع هذه الأنظمة لالتزامات مشددة، تشمل إدارة المخاطر وجودة البيانات والتوثيق والشفافية والرقابة البشرية ومتطلبات الدقة والأمن.

3. الأنظمة ذات مخاطر الشفافية:

تفرض عليها التزامات تهدف إلى إعلام المستخدمين بطبيعة تفاعلهم مع بعض الأنظمة الذكية، أو توضيح أن المحتوى تم إنشاؤه بواسطة الذكاء الاصطناعي في الحالات التي يحددها التنظيم.

4. الأنظمة ذات المخاطر المحدودة أو الدنيا:

تخضع لمستوى أقل من الالتزامات التنظيمية، مع مراعاة القواعد القانونية الأخرى التي قد تنطبق عليها.

ويهدف هذا التنظيم إلى ضمان تطوير أنظمة ذكاء اصطناعي آمنة وموثوقة، مع حماية الحقوق الأساسية وتعزيز الابتكار.

ويجب التنبيه إلى أن قانون الذكاء الاصطناعي الأوروبي ليس قانوناً موحداً للتعويض عن جميع الأضرار، وإنما يمثل إطاراً تنظيمياً للسلامة والالتزامات والحوكمة، إلى جانب قواعد المسؤولية المدنية وغيرها من التشريعات ذات الصلة.

الفرع الثاني: المسؤولية عن المنتجات المعيبة في الاتحاد الأوروبي

إلى جانب قانون الذكاء الاصطناعي، اتجه الاتحاد الأوروبي إلى تحديث قواعد المسؤولية عن المنتجات المعيبة من خلال التوجيه رقم 2024/2853 المتعلق بالمسؤولية عن المنتجات المعيبة.

وتكتسب هذه القواعد أهمية خاصة بالنسبة إلى المنتجات التي تتضمن برمجيات أو أنظمة ذكاء اصطناعي، حيث توسع الإطار القانوني للمسؤولية عن المنتجات لمواكبة التطورات الرقمية.

وتبرز أهمية هذا التوجه في الاعتراف بالطبيعة المتطورة للمنتجات الرقمية، وعدم الاقتصار على المنتجات المادية التقليدية.

كما يعكس هذا التطور التشريعي اتجاهاً نحو تعزيز حماية المتضررين من عيوب المنتجات الحديثة، وتطوير قواعد الإثبات بما يتناسب مع التعقيد التقني.

الفرع الثالث: التوجهات الدولية في مجال أخلاقيات الذكاء الاصطناعي

اعتمدت منظمة الأمم المتحدة للتربية والعلم والثقافة (اليونسكو) سنة 2021 توصية بشأن أخلاقيات الذكاء الاصطناعي، تضمنت مجموعة من المبادئ التي تهدف إلى ضمان تطوير واستخدام هذه التكنولوجيا بصورة تحترم حقوق الإنسان وكرامته.

ومن أهم هذه المبادئ:

- احترام حقوق الإنسان والحريات الأساسية.

- الشفافية وقابلية تفسير الأنظمة.

- المسؤولية والمساءلة.

- الرقابة البشرية.

- العدالة وعدم التمييز.

- حماية الخصوصية والبيانات الشخصية.

- تعزيز الاستدامة والتنمية الشاملة.

وتكتسب هذه التوصية أهمية باعتبارها إطاراً دولياً مرجعياً يمكن للدول الاستفادة منه عند وضع سياساتها الوطنية المتعلقة بالذكاء الاصطناعي.

المطلب الثاني: موقف التشريع الجزائري وآفاق تطويره

الفرع الأول: الإطار القانوني الجزائري للمسؤولية عن أضرار الذكاء الاصطناعي

لا ينبغي دراسة المسؤولية عن أضرار الذكاء الاصطناعي في الجزائر بمعزل عن القواعد العامة التي يتضمنها التشريع الوطني.

فعلى الرغم من عدم تحديد قانون مستقل وشامل للمسؤولية عن أضرار الذكاء الاصطناعي ضمن النصوص التي تناولتها هذه الدراسة، فإن ذلك لا يعني وجود فراغ قانوني مطلق، لأن بعض الأضرار يمكن معالجتها بالاستناد إلى القواعد القانونية القائمة.

ومن أبرز النصوص ذات الصلة:

أولاً: القانون المدني الجزائري

يشكل الأمر رقم 75-58 المؤرخ في 26 سبتمبر 1975 والمتضمن القانون المدني، المعدل والمتمم، الإطار العام للمسؤولية المدنية.

وتكتسب المادة 124 أهمية خاصة، لأنها تقرر المبدأ العام للمسؤولية عن الفعل الشخصي الذي يؤدي إلى إلحاق الضرر بالغير.

ويمكن الاستناد إلى هذا المبدأ عند توافر الخطأ والضرر والعلاقة السببية، بما يسمح بمساءلة الأشخاص الذين يثبت ارتكابهم أخطاء مرتبطة بتطوير الأنظمة الذكية أو تشغيلها أو استخدامها.

ثانياً: قانون حماية المعطيات ذات الطابع الشخصي

يشكل القانون رقم 18-07 المؤرخ في 10 يونيو 2018 المتعلق بحماية الأشخاص الطبيعيين في مجال معالجة المعطيات ذات الطابع الشخصي إطاراً مهماً لحماية الأفراد من الاستخدام غير المشروع لبياناتهم.

وقد تم تعديله وتتميمه بموجب القانون رقم 25-11 المؤرخ في 24 يوليو 2025.

وتكتسب هذه النصوص أهمية خاصة في مجال الذكاء الاصطناعي، لأن العديد من الأنظمة الذكية تعتمد على جمع البيانات الشخصية ومعالجتها وتحليلها.

وبالتالي، فإن استخدام هذه البيانات يجب أن يحترم الالتزامات القانونية المتعلقة بحمايتها وحقوق الأشخاص المعنيين بها.

ثالثاً: الأمر المتعلق بحقوق المؤلف والحقوق المجاورة

يُعد الأمر رقم 03-05 المؤرخ في 19 يوليو 2003 المتعلق بحقوق المؤلف والحقوق المجاورة من النصوص ذات الصلة باستخدام الذكاء الاصطناعي في إنتاج المحتوى الرقمي.

وتبرز أهميته في حماية المصنفات الأدبية والفنية وحقوق أصحابها، خاصة في ظل إمكانية استخدام الأعمال المحمية في تدريب الأنظمة التوليدية أو إعادة إنتاج محتويات تتضمن عناصر مأخوذة منها.

ومن ثم فإن استخدام تقنيات الذكاء الاصطناعي يجب أن يراعي الحقوق المعترف بها قانوناً للمؤلفين وأصحاب المصنفات.

الفرع الثاني: النقائص والتحديات التي تواجه الإطار القانوني الجزائري

على الرغم من وجود قواعد قانونية عامة يمكن الاستناد إليها في معالجة بعض الأضرار الناتجة عن الذكاء الاصطناعي، فإن التطورات التقنية الحديثة تطرح مجموعة من التحديات.

ومن أبرزها:

1. صعوبة تحديد المسؤول عن الضرر:

تعدد المتدخلين في تطوير وتشغيل الأنظمة الذكية قد يؤدي إلى صعوبة تحديد الطرف المسؤول عن الضرر.

2. صعوبة إثبات الخطأ التقني:

قد لا يمتلك المتضرر الإمكانيات التقنية اللازمة لإثبات الخلل الذي أدى إلى وقوع الضرر.

3. غياب قواعد تفصيلية خاصة بالمخاطر المرتبطة بالذكاء الاصطناعي:

تحتاج بعض الأنظمة عالية المخاطر إلى التزامات أكثر دقة تتعلق بالاختبار والتوثيق والرقابة والإبلاغ عن الحوادث.

4. التحديات المرتبطة بالبيانات الشخصية:

تتطلب معالجة البيانات بواسطة الأنظمة الذكية ضمانات تتناسب مع حجم البيانات وطبيعتها ومخاطر استخدامها.

5. صعوبة تحديد المسؤولية عن المحتوى المولد آلياً:

قد يصعب تحديد الطرف الذي يتحمل المسؤولية عن المحتوى غير المشروع عندما تتداخل أدوار مطور النظام ومقدم الخدمة والمستخدم.

الفرع الثالث: مقترحات تطوير الإطار القانوني الجزائري

لمواجهة هذه التحديات، يمكن اقتراح مجموعة من التدابير التشريعية والتنظيمية:

أولاً: إعداد إطار قانوني خاص بالذكاء الاصطناعي

ينبغي العمل على وضع إطار تشريعي ينظم تطوير الأنظمة الذكية واستخدامها، ويحدد الالتزامات الأساسية للجهات المتدخلة.

ثانياً: اعتماد تصنيف قانوني للأنظمة بحسب المخاطر

من الضروري التمييز بين الأنظمة ذات المخاطر المحدودة والأنظمة التي قد تؤثر بصورة مباشرة في حياة الأفراد أو صحتهم أو حقوقهم الأساسية.

ثالثاً: تعزيز الشفافية والرقابة البشرية

ينبغي فرض التزامات مناسبة تتعلق بتوثيق العمليات التقنية وتوفير المعلومات الضرورية وضمان إمكانية التدخل البشري في القرارات ذات التأثير الكبير على حقوق الأشخاص.

رابعاً: تطوير قواعد الإثبات

يمكن تعزيز وسائل الإثبات من خلال إلزام الجهات المسؤولة بحفظ السجلات التقنية وتوثيق العمليات وإتاحة المعلومات الضرورية للخبراء والجهات القضائية المختصة، مع احترام السرية التجارية وحماية البيانات.

خامساً: تحديد التزامات المطورين والمنتجين والمشغلين

ينبغي تحديد الواجبات المهنية والتقنية لكل طرف، بما يسمح بتوزيع المسؤولية بصورة عادلة وفقاً لدرجة مساهمته في وقوع الضرر.

سادساً: تعزيز حماية البيانات الشخصية

يتعين ضمان التطبيق الفعال للتشريع المتعلق بحماية المعطيات الشخصية، مع مراعاة خصوصية معالجة البيانات بواسطة الأنظمة الذكية.

سابعاً: تطوير التكوين القانوني والقضائي

يجب تنظيم دورات تكوينية لفائدة القضاة والمحامين والخبراء القانونيين حول الجوانب التقنية للذكاء الاصطناعي، بما يعزز قدرتهم على معالجة المنازعات المرتبطة به.

---

خاتمة

من خلال دراسة موضوع المسؤولية القانونية عن أضرار الذكاء الاصطناعي، يتضح أن التطور التكنولوجي المتسارع لم يعد يطرح تحديات تقنية فحسب، بل أصبح يفرض على الأنظمة القانونية إعادة النظر في بعض المفاهيم التقليدية المرتبطة بالمسؤولية والإثبات والتعويض.

فقد أصبحت الأنظمة الذكية قادرة على تنفيذ مهام معقدة وإنتاج نتائج قد تؤثر بصورة مباشرة في حياة الأفراد وحقوقهم ومصالحهم، الأمر الذي يجعل احتمال وقوع أضرار مادية أو معنوية أو اقتصادية نتيجة استخدامها أمراً يستوجب المعالجة القانونية.

وقد تبين أن المسؤولية عن هذه الأضرار لا يمكن إسنادها بصورة آلية إلى المطور أو المنتج أو المستخدم، وإنما يتعين تحديدها وفقاً لطبيعة تدخل كل طرف، ومدى إخلاله بالالتزامات القانونية أو المهنية المفروضة عليه، ومدى ارتباط ذلك بالضرر الذي وقع.

كما أظهرت الدراسة أن قواعد المسؤولية المدنية التقليدية، ولا سيما المسؤولية العقدية والتقصيرية، يمكن أن تشكل أساساً قانونياً مهماً لمعالجة العديد من الأضرار الناتجة عن الذكاء الاصطناعي، غير أن تطبيقها قد يواجه صعوبات عملية تتعلق بإثبات الخطأ وتحديد العلاقة السببية والوصول إلى المعلومات التقنية اللازمة.

ومن خلال المقارنة مع التوجه الأوروبي، تبين أن التنظيم القانوني الحديث يتجه نحو اعتماد مقاربة قائمة على المخاطر، تقوم على فرض التزامات متفاوتة بحسب طبيعة النظام الذكي ومدى تأثيره في حقوق الأفراد وسلامتهم.

أما بالنسبة إلى الجزائر، فقد تبين أن التشريع الوطني يتضمن قواعد قانونية عامة يمكن الاستناد إليها في حماية المتضررين، خاصة القانون المدني وقانون حماية المعطيات الشخصية والأمر المتعلق بحقوق المؤلف والحقوق المجاورة، غير أن التطورات المتسارعة للذكاء الاصطناعي تستدعي تعزيز هذه المنظومة بقواعد أكثر تخصصاً ووضوحاً.

وعليه، فإن مواجهة الأضرار الناتجة عن الذكاء الاصطناعي لا تتحقق بمجرد تقرير حق المتضرر في التعويض، بل تتطلب بناء منظومة قانونية متكاملة تجمع بين الوقاية والشفافية والرقابة والمساءلة والتعويض، بما يضمن حماية الحقوق والحريات دون عرقلة التطور التكنولوجي والابتكار.

وفي الأخير، يمكن القول إن التحدي الحقيقي الذي يواجه القانون المعاصر لا يتمثل في منع استخدام الذكاء الاصطناعي، وإنما في إيجاد التوازن المناسب بين حرية الابتكار والمسؤولية عن نتائجه، بحيث تظل التكنولوجيا وسيلة لخدمة الإنسان لا مصدراً للاعتداء على حقوقه.

أولاً: النتائج المتوصل إليها

توصلت الدراسة إلى مجموعة من النتائج، أهمها:

1. يمثل الذكاء الاصطناعي تطوراً تكنولوجياً يفرض تحديات قانونية جديدة على قواعد المسؤولية التقليدية.

2. لا يتمتع نظام الذكاء الاصطناعي، بمجرد كونه نظاماً ذكياً، بشخصية قانونية مستقلة تجعله مسؤولاً بذاته وفق القواعد القانونية الحالية.

3. يمكن تطبيق قواعد المسؤولية العقدية والتقصيرية على العديد من الأضرار الناتجة عن استخدام الأنظمة الذكية.

4. تتعدد الأطراف التي يمكن أن تتحمل المسؤولية، ومن بينها المطور والمنتج والمشغل والمستخدم.

5. تمثل صعوبة إثبات الخطأ والعلاقة السببية من أبرز العقبات التي تواجه المتضررين.

6. قد يؤدي استخدام الذكاء الاصطناعي إلى أضرار مادية ومعنوية واقتصادية واعتداءات على الحقوق الشخصية والملكية الفكرية.

7. لا يكفي الاعتماد على القواعد العامة وحدها لمواجهة جميع المخاطر التي تثيرها الأنظمة الذكية.

8. يشكل التنظيم الأوروبي للذكاء الاصطناعي نموذجاً مهماً للمقاربة القانونية القائمة على تصنيف الأنظمة بحسب مستوى المخاطر.

9. يتضمن التشريع الجزائري قواعد قانونية ذات صلة يمكن الاستناد إليها لمعالجة بعض الأضرار الناتجة عن الذكاء الاصطناعي.

10. تبرز الحاجة إلى تطوير إطار قانوني جزائري أكثر تخصصاً يواكب التطور التكنولوجي ويضمن حماية الحقوق الأساسية.

ثانياً: التوصيات والاقتراحات

بناءً على النتائج السابقة، نقترح ما يلي:

1. العمل على إعداد إطار تشريعي جزائري خاص بالذكاء الاصطناعي.

2. وضع قواعد واضحة لتحديد مسؤولية المطورين والمنتجين والمشغلين والمستخدمين.

3. تطوير قواعد المسؤولية المدنية بما يتناسب مع طبيعة الأضرار الناتجة عن الأنظمة الذكية.

4. اعتماد تصنيف قانوني للأنظمة الذكية بحسب مستوى المخاطر.

5. تعزيز الشفافية والرقابة البشرية على الأنظمة التي تؤثر في الحقوق الأساسية للأفراد.

6. تطوير وسائل الإثبات والخبرة القضائية في المنازعات المرتبطة بالذكاء الاصطناعي.

7. تعزيز حماية البيانات الشخصية عند استخدام الأنظمة الذكية.

8. تحديث آليات حماية حقوق المؤلف في ظل انتشار تقنيات الذكاء الاصطناعي التوليدي.

9. تنظيم دورات تكوينية للقضاة والمحامين والخبراء حول المسؤولية القانونية عن أضرار الذكاء الاصطناعي.

10. الاستفادة من التجارب التشريعية الدولية، مع مراعاة خصوصية النظام القانوني الجزائري.

---

قائمة المراجع

أولاً: النصوص القانونية الجزائرية

1. الأمر رقم 75-58 المؤرخ في 26 سبتمبر 1975، المتضمن القانون المدني، المعدل والمتمم.

2. القانون رقم 18-07 المؤرخ في 10 يونيو 2018، المتعلق بحماية الأشخاص الطبيعيين في مجال معالجة المعطيات ذات الطابع الشخصي.

3. القانون رقم 25-11 المؤرخ في 24 يوليو 2025، المعدل والمتمم للقانون رقم 18-07 المتعلق بحماية الأشخاص الطبيعيين في مجال معالجة المعطيات ذات الطابع الشخصي.

4. الأمر رقم 03-05 المؤرخ في 19 يوليو 2003، المتعلق بحقوق المؤلف والحقوق المجاورة.

ثانياً: النصوص القانونية الدولية

1. Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024, Artificial Intelligence Act.

2. Directive (EU) 2024/2853 of the European Parliament and of the Council of 23 October 2024 on liability for defective products.

3. UNESCO, Recommendation on the Ethics of Artificial Intelligence, 2021.

ثالثاً: الكتب والمراجع الأجنبية

1. Russell, Stuart & Norvig, Peter, Artificial Intelligence: A Modern Approach, 4th Edition, Pearson, 2021.

2. Solum, Lawrence B., Legal Personhood for Artificial Intelligences, North Carolina Law Review, 1992.

3. Abbott, Ryan, The Reasonable Robot: Artificial Intelligence and the Law, Cambridge University Press, 2020.

4. European Parliamentary Research Service, Artificial Intelligence and Civil Liability, European Parliament research publications.

رابعاً: المواقع والمصادر الرسمية

1. بوابة القانون الجزائري، وزارة العدل.

2. الجريدة الرسمية للجمهورية الجزائرية الديمقراطية الشعبية.

3. المنظمة العالمية للملكية الفكرية (WIPO).

4. منظمة الأمم المتحدة للتربية والعلم والثقافة (UNESCO).

5. الموقع الرسمي للاتحاد الأوروبي EUR-Lex.