كما ستشكل هذه التوصيات أساساً لمبادئ التنظيم الذي سيعتمد في هذا السياق في القطاع المالي.

التقرير المرحلي هو نتاج عمل فريق مشترك من وزارة العدل (استشارات وتشريع) ووزارة المالية هيئة المنافسة وسلطة الأوراق المالية وسلطة سوق المال والتأمين والادخار وهيئة الرقابة على البنوك في بنك إسرائيل.

تم إنشاء الفريق من منطلق أنه في المجال المالي، كما هو الحال في المجالات الأخرى، من المتوقع أن يكون هناك استخدام واسع النطاق للذكاء الاصطناعي، ويجب الاستعداد لذلك. يعد التقرير المرحلي أحد الأعمال الأولى المنشورة وأكثرها شمولاً للتعامل مع القضايا المختلفة المتعلقة باستخدام تقنية الذكاء الاصطناعي في مجال خاضع للرقابة.

القضايا التي تناولها التقرير:

تزايد في الآونة الأخيرة التعامل مع مسألة تكنولوجيا الذكاء الاصطناعي، ولذلك برز أيضاً نقاش حاد حول التشريعات التي يجب أن تنظم استخدام هذه التكنولوجيا. إلى جانب فهم إمكانات التكنولوجيا، تدور أيضًا مناقشات للتحديات والمخاطر التي يتوجب معالجتها بطريقة تنظيمية وقانونية.

يعرض التقرير الإمكانات الكامنة في استخدام الذكاء الاصطناعي في المجال المالي لتحسين جودة المنتجات والخدمات المالية وخفض التكاليف، وجعل الخدمات المالية في متناول جمهور أوسع، وتحسين الأنشطة التشغيلية والتجارية وإدارة المخاطر وغيرها. إلى جانب ذلك، يحدد التقرير التحديات المحتملة التي ينطوي عليها استخدام التكنولوجيا، بما في ذلك: الخوف من الإضرار بالخصوصية، وإقصاء فئات سكانية من الخدمات المالية، وضمان العدالة الاستهلاكية، وما إلى ذلك.

يتناول التقرير القضايا الناشئة عن الخصائص الفريدة للذكاء الاصطناعي، مثل "الصندوق الأسود" وقضية المساءلة، وقضية التدخل البشري، فضلا عن الأسئلة التي تنشأ عن الأنشطة القائمة على الذكاء الاصطناعي في مسائل الخصوصية والتمييز والمسؤولية. يتناول التقرير أيضًا الآثار الواسعة التي قد تترتب على نشاط الذكاء الاصطناعي، ومن بينها جوانب تتعلق بالاستقرار المالي والمنافسة والمخاطر السيبرانية والمعلومات المضللة.

بالإضافة إلى القضايا العامة، ركز الفريق على 3 مجالات محددة من النشاط يتم فيها بالفعل استخدام بعض الذكاء الاصطناعي مثل الاستشارات الاستثمارية وإدارة المحافظ الاستثمارية، والاكتتاب الائتماني، والاكتتاب التأميني.

فيما يتعلق بكل من القضايا التي تمت مناقشتها، تم إجراء مراجعة شاملة للقوانين ذات الصلة في إسرائيل وفي العالم، وتحليل القضايا الأساسية التي يثيرها استخدام الذكاء الاصطناعي، واقتراح بدائل ممكنة لعلاجها، إضافة إلى توصيات عملية.

عدة توصيات رئيسية في التقرير المرحلي:

يرى الفريق أنه ينبغي بشكل عام تشجيع نشاط الذكاء الاصطناعي في القطاع المالي، إلى جانب صياغة التنظيم المناسب عندما يكون ذلك مطلوباً من خلال أدوات تنظيمية سهلة ومرنة.

يؤكد الفريق على ضرورة اعتماد نهج قائم على المخاطر، والذي يتم بموجبه تعديل نطاق التنظيم بما يتناسب مع أهمية الخدمة المالية وتأثيرها على الزبون. على سبيل المثال، سيُطلب من برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي والذي يوفر خدمة الزبائن الأساسية تلبية متطلبات تنظيمية أقل تقييداً من نظام الاكتتاب الائتماني القائم على الذكاء الاصطناعي، والذي يكون لقراراته تأثير كبير على الأفراد. سيسمح هذا النهج للمؤسسات المالية بتركيز موارد إدارة المخاطر في الخدمات الأكثر أهمية.

قابلية المساءلة: تعد مشكلة "الصندوق الأسود" حيث لا يمكن مساءلة منتجات أنظمة الذكاء الاصطناعي بشكل كامل أحد التحديات المعقدة فيما يتعلق بهذه التكنولوجيا. يميز التقرير بين المساءلة العامة، فيما يتعلق بطريقة عمل النظام، والمساءلة الفردية، فيما يتعلق بقرارات محددة. التوصية هي أن يتم تطبيق واجب المساءلة العام، في حين يتم تحديد واجب المساءلة الفردية وفقاً للظروف المتعلقة بجوهر القرار، ووجود تدخل بشري، وما إلى ذلك.

التدخل البشري: إحدى الأدوات الشائعة المقترحة للتعامل مع التحديات الكامنة في تشغيل الذكاء الاصطناعي هي التدخل والإشراف البشري. هناك أيضًا انتقادات لهذا الشرط الذي يمكن يقلل من فائدة استخدام التكنولوجيا. في التقرير يميز الفريق بين الأنواع المختلفة من التدخل البشري - التدخل في الوقت الفعلي والتدخل بأثر رجعي، والتدخل في كل قرار فردي مقابل التدخل في نشاط النظام ككل. يوصي الفريق بنموذج متدرج للتدخل البشري يتضمن التزاماً عاماً بالتحكم البشري، والتدخل المباشر في القرارات المتعلقة بالاستخدامات التي يمكن تصنيفها على أنها متوسطة أو عالية المخاطر (مثل القرارات الجوهرية).

مسؤولية الإبلاغ والإفصاح: يرى الفريق أنه يجب إعلام الجمهور حول استخدام أنظمة الذكاء الاصطناعي أو تفاعلهم مع هذه الأنظمة، بالإضافة إلى التزامات الإفصاح فيما يتعلق بخصائص الذكاء الاصطناعي وعواقبه بما يتناسب مع متطلبات الإفصاح الحالية في القطاع المالي. يؤكد الفريق على ضرورة الإفصاح مع منع " AI washing" (العرض المضلل أو المبالغ فيه فيما يتعلق باستخدام الذكاء الاصطناعي)، وكذلك التأكد من أن يتم الإبلاغ والإفصاح بلغة بسيطة ومحايدة.

الاحتيال والمعلومات المضللة: يتطرق التقرير إلى تأثير تقدم الذكاء الاصطناعي على مخاطر الاحتيال والمعلومات المضللة في النظام المالي، بدءًا من انتحال هوية الزبائن وحتى التأثيرات النظامية الواسعة، ويوصي المنظمين بكيفية تحديث وتوسيع آليات التعامل مع هذه المخاطر.

الخصوصية وحماية المعلومات الشخصية: يتضمن التقرير لمحة عامة عن التحديات التي تواجه حماية الحق في الخصوصية والناشئة عن خصائص أنظمة الذكاء الاصطناعي وحساسية المعلومات المالية. يتضمن التقرير اقتراحات بشأن أدوات وتدابير للتعامل مع هذه التحديات، ومن بينها التوصية بأن يقوم المنظمون الماليون بتوجيه الهيئات الخاضعة للرقابة بإجراء تقييم للمخاطر فيما يتعلق بإعادة التحقق من المعلومات الشخصية، وكذلك اعتماد أدوات تنظيمية لإدارة المخاطر على الخصوصية التي ينطوي عليها تطوير أنظمة الذكاء الاصطناعي والحد منها، مثل: مراجعة التأثير على الخصوصية، وتطبيق مفاهيم التصميم لحماية الخصوصية، وذلك بالإضافة إلى تعيين مسؤول عن حماية الخصوصية.

يتضمن التقرير توصيات في العديد من المجالات الأخرى: قواعد حوكمة الشركات والتي ستمكن من إدارة المخاطر فيما يتعلق باستخدامات الذكاء الاصطناعي في المؤسسات المالية؛ قواعد المسؤولية فيما يتعلق بأنظمة الذكاء الاصطناعي والتي تحدد المسؤولين عن عمل الأنظمة؛ تدابير لمنع التمييز؛ المخاطر والفرص من حيث المنافسة وما شابه.

تم نشر التقرير المرحلي بعد عملية شملت تعلم التكنولوجيا، وفهم تطبيقاتها في المجال المالي، وتحليل الجوانب القانونية والتنظيمية للذكاء الاصطناعي، وتبادل المعرفة بين الأطراف المشاركة في إعداد التقرير المرحلي، ونشر دعوة لتقديم المقترحات واجتماعات مع العديد من الأطراف من القطاع المالي والأوساط الأكاديمية والحكومية، إضافة إلى جهات تنظيمية ومنظمات أجنبية متخصصة في وضع السياسات في هذا المجال.

سبق التقرير مراجعة شاملة أجراها باحثون من جامعة تل أبيب (البروفيسور أساف حمداني، البروفيسور دان عميرام، البروفيسور كوبي كاستيل، والدكتور آري أحيعاز) بالتعاون مع قسم الاستشارة والتشريع في وزارة العدل. وقد واصل هؤلاء الباحثون مرافقة الفريق طوال مرحلة صياغة التوصيات.

ترأس الفريق الوزاري المشترك لفحص استخدامات الذكاء الاصطناعي في القطاع المالي المحامي أمير فيسرمان المستشار القانوني لسلطة الأوراق المالية، والمحامية ساريت فلابر رئيسة مجموعة الابتكار التكنولوجي والموازنة في الاستشارات والتشريع (القانون الاقتصادي) في وزارة العدل. بالإضافة إلى أعضاء الفريق السيدة إيلانيت مدموني، مديرة وحدة الابتكار التكنولوجي المالي في هيئة الرقابة على البنوك في بنك إسرائيل، والسيدة أفيفا فايس، مديرة قسم إدارة المخاطر ومديرة قسم الرقابة على تكنولوجيا المعلومات والسايبر في سلطة سوق المال والتأمين والادخار، والمحامي دودي كوبل، نائب المستشار القانوني في وزارة المالية، والمحامي إيال شابيرا، مدير مجال التخطيط والسياسة في هيئة المنافسة. ونسق عمل الفريق المحامي توم جولدرايخ، رئيس قسم التقنيات المالية في الإدارة الدولية في سلطة الأوراق المالية.