تحيز الذكاء الاصطناعي في التوظيف: لماذا نقول في شركة Recruitment Smart أن الحياد أسطورة

ما هو التحيز في التوظيف بالذكاء الاصطناعي ولماذا يهمنا جميعًا

لقد سمعنا هذا الادعاء مرات عديدة: الذكاء الاصطناعي محايد، والذكاء الاصطناعي لا يميز. لكن الحقيقة؟ يعكس الذكاء الاصطناعي العالم الذي تم تدريبه عليه. إذا كانت البيانات التي تتعلم منها متحيزة، فستكون النتائج كذلك. وهذه مشكلة خطيرة في التوظيف.

غالبًا ما تتعلم أنظمة التوظيف بالذكاء الاصطناعي من بيانات التوظيف التاريخية. إذا كانت هذه البيانات منحرفة، على سبيل المثال، فهي مليئة بالتوظيف الهندسي الناجح للذكور، فإن الذكاء الاصطناعي يخلص إلى أن الرجال أكثر ملاءمة للأدوار الهندسية. هذا ما نسميه التحيز التاريخي. إنه غير مرئي للوهلة الأولى ولكنه متجذر بعمق في الأنماط التي قمنا بتطبيعها بالفعل.

وما هي الآثار المترتبة على ذلك؟ إنهم ضخمون. نحن نخاطر بتعزيز عدم المساواة على نطاق واسع لمجرد أنها فعالة.

‍

أدلة من العالم الحقيقي: إحصائيات مذهلة من مصادر موثوقة

الذكاء الاصطناعي الذي لا «يرى» النساء ذوات البشرة الداكنة

في دراسة أجراها مختبر إم آي تي ميديا، كان معدل الخطأ في برنامج التعرف على الوجه 34.7% للنساء ذوات البشرة الداكنة، مقارنة فقط 0.8% للرجال ذوي البشرة الفاتحة. هذا ليس خللًا، إنه فشل هيكلي.

فشل الذكاء الاصطناعي في أمازون في التعامل مع النساء

في عام 2018، قامت Amazon ببناء ذكاء اصطناعي لفحص السير الذاتية. ولكن بعد أن أدركت ذلك معاقبة السير الذاتية التي تضمنت كلمة «نسائية» أو جاءت من كليات نسائية بالكامل، قاموا بإغلاقها. لقد استوعب النموذج ببساطة سنوات من أنماط التوظيف المتحيزة وكررها.

لا يمكننا التظاهر بأن هذه حوادث معزولة. هذه علامات على أن الذكاء الاصطناعي، بدون تدخل، سيعكس نفس التفاوتات التي نحاول إصلاحها.

‍

إطار SnipeRai: كيف نتعامل فعليًا مع التحيز (لا نتحدث عنه فقط)

كيف نحاول إبقاء التحيز بعيدًا عن البداية

إذن هذا ما اكتشفناه. إذا انتظرت حتى النهاية لإصلاح التحيز، فقد فات الأوان بالفعل. إنه في النظام. لهذا السبب مع سنايبر راي، بدأنا في البداية.

نحن لا نقوم فقط بتغذية بيانات التوظيف القديمة للجهاز ونأمل أن تعمل بشكل أفضل. نتحقق من البيانات. من بداخلها؟ من المفقود؟ هل تميل بشدة نحو جنس واحد أو نوع واحد من الخلفية؟ إذا حدث ذلك، فهذه علامة حمراء. لذلك نحن نوازنها. نقوم بإزالة الأسماء والمواقع والجامعات. الأشياء التي يمكن أن تتسلل إلى التحيز، حتى لو لم نحاول ذلك.

لأننا دعونا نكون حقيقيين. لا ينبغي أن يقرر الرمز البريدي ما إذا كان شخص ما سيحصل على مقابلة.

ماذا نفعل أثناء تعلم النموذج

نقول لها ما لا نتعلمه

نحن نستخدم هذه الطريقة المسماة إزالة التحيز العدائي. يبدو خياليًا. هذا يعني في الأساس أن العارضة تتلقى صفعة على معصمها إذا بدأت في الانتباه إلى جنس شخص ما أو خلفيته عند تحديد من هو «الأفضل». نحن ندربها على تجاهل تلك الأشياء والتركيز على الأشياء المهمة بالفعل والمهارات والخبرة والعمل الفعلي.

نتأكد من أن مجموعة واحدة لا تغرق البقية

عندما تكون بعض المجموعات ممثلة تمثيلاً ناقصًا، يتم تجاهل بياناتها. لذلك نقوم بموازنة ذلك. نحن نعطي وزنًا أكبر للملفات الشخصية الممثلة تمثيلاً ناقصًا حتى يتعلم الذكاء الاصطناعي من الجميع، وليس فقط الأغلبية.

نجري اختبارات «ماذا لو»

نجري اختبارات حيث نغير شيئًا واحدًا فقط في الملف الشخصي، مثل تبديل الجنس، والتحقق مما إذا كان قرار الذكاء الاصطناعي يتغير. إذا حدث ذلك، فلدينا عمل يجب القيام به. هذا يخبرنا أن التحيز يتسلل بطريقة غير مباشرة، ونحن نصلحه.

التحيز ليس دائمًا مرتفعًا. في بعض الأحيان يختبئ في أشياء يفترض الناس أنها محايدة. لهذا السبب لا نعتبر أيًا من هذا أمرًا مفروغًا منه. نحن نشكك في النموذج باستمرار. نسألها عما تعلمته ولماذا. وإذا كانت الإجابة خاطئة، نعود ونتخلص منها.

‍

ماذا يحدث بعد التدريب؟ ما زلنا نراقب ذلك

نتأكد من أنها تفعل ما يفترض أن تفعله

حسنًا، بمجرد أن ندرب SniperAI، فإننا لا نتركها تعمل بمفردها. نحن نثق بما بنيناه، نعم، لكننا نعلم أيضًا أن الأشياء يمكن أن تتغير بمرور الوقت. يتغير الأشخاص وتتغير الوظائف وتتغير البيانات. لذلك نتحقق منه بانتظام. النتائج التي تجلبها هذه المبادرة إلى الطاولة هي انخفاض بنسبة 37% في التحيز اللاواعي و زيادة بنسبة 50٪ في مقاييس DE&I.

شيء واحد نقوم به هو معرفة عدد المرات التي يتم فيها اختيار المجموعات المختلفة. كما هو الحال بالنسبة للنساء اللواتي يتم اختيارهن في القائمة المختصرة بنفس عدد الرجال؟ ماذا عن الأشخاص من خلفيات أو فئات عمرية مختلفة؟ إذا بدأت أرقام إحدى المجموعات في الانخفاض بشكل منخفض جدًا، فهذا شيء نتوقف وننظر إليه.

ونحن لا نتحقق فقط من الأشياء الواضحة. نحن نتعمق. مثل النظر إلى أداء المجموعات الصغيرة. ليس فقط النساء بشكل عام، ولكن على سبيل المثال، النساء في مجال التكنولوجيا اللواتي حصلن على استراحة مهنية. هذا هو المكان الذي يختبئ فيه التحيز أحيانًا دون أن يلاحظ أحد.

نوضح أيضًا سبب اختيار شخص ما

عندما سنايبر راي يمنح شخصًا ما درجة أو يضعه في قائمة مختصرة، نوضح السبب. سهل وبسيط. ما المهارات المهمة؟ ما هي التجربة البارزة؟ ليس هناك لغز.

لذلك إذا أراد المجند أو المرشح فهم القرار، فلا داعي للتخمين. تم وضع كل شيء. نعتقد أن هذا عادل ونعتقد أن هذا ما ينبغي أن يكون عليه الأمر. لا يقتصر الأمر على الوثوق بالأداة بشكل أعمى فحسب، بل معرفة أنها تعمل بالطريقة التي ينبغي أن تعمل بها والقدرة على إثبات ذلك.

‍

لا يزال الناس مهمين: لماذا نبقي الإنسان دائمًا على اطلاع دائم

الذكاء الاصطناعي يساعد، لكن الناس يقومون بإجراء المكالمة النهائية

على الرغم من أن SniperAI يقلل من جميع المهام الرئيسية، إلا أننا لم نعتقد أبدًا أن التكنولوجيا يجب أن تحل محل الأشخاص. إنها أداة وليست بديلاً للحكم الجيد. لذلك قمنا ببنائه للعمل مع مسؤولي التوظيف، وليس بدلاً منهم.

في كل مرة يقدم فيها نظامنا توصية، لا يزال الإنسان يراجعها. دائمًا. إذا أراد المجند إجراء تغيير، يمكنه ذلك. ويقوم النظام بتتبع ذلك، لذلك هناك سجل واضح لما تغير ولماذا. هذا جزء من الحفاظ على الصدق والشفافية.

يمكن لمسؤولي التوظيف تعديل الأشياء بناءً على الدور

ليس بالضرورة أن تتطلب كل وظيفة نفس النوع من المرشحين ونحن نحصل على ذلك. لذلك جعلنا من السهل على مسؤولي التوظيف تحديد النتيجة التي يريدون العمل بها. ويمكنهم تغيير حد المطابقة، وسيعرض النظام كيفية تأثير هذا التغيير على المجموعات المختلفة. كل شيء حي، كل شيء مرئي.

لمعرفة أفضل: احجز مكالمة ديسكفري

نحن أيضًا نأخذ التعليقات على محمل الجد

إذا اعتقد مسؤول التوظيف أن النظام قد أخطأ أو لديه أفكار لتحسينه، فيمكنه الإبلاغ عنه. نحن ننظر إلى هذه التعليقات ونستخدمها بالفعل عندما نقوم بتحديث النموذج. بهذه الطريقة، يستمر SniperAI في التعلم ليس فقط من البيانات، ولكن من الأشخاص الحقيقيين الذين يستخدمون النظام.

في نهاية المطاف، نعتقد أن الإنصاف ليس مدمجًا في التكنولوجيا فحسب، بل يأتي من الأشخاص الذين يستخدمونها بعناية، ويطرحون الأسئلة، ويحسنونها مع استمرارهم في العمل عليها.

‍

نحن لا نطلقها فقط ونتركها: نحن نواصل المشاهدة

يمكن للتحيز أن يتسلل مرة أخرى، لذلك نبقى على اطلاع به

حتى مع كل ما نقوم به في البداية، نعلم أن الأمور يمكن أن تتغير لاحقًا. تغييرات البيانات. تتغير الطريقة التي يطبق بها الناس التكنولوجيا. تتم مراجعة الأدوار الوظيفية. لهذا السبب لا نفترض فقط أن SniperAI ستبقى مثالية إلى الأبد. نستمر في التحقق والتأكد من أن نموذجنا عادل في جميع السيناريوهات، ويتم تحديثه بجميع التقنيات الجديدة ويتبع بدقة إطار الامتثال.

لقد قمنا بإعداد عمليات التحقق في الوقت الفعلي التي يتم تشغيلها في الخلفية. إذا بدأ شيء ما في الظهور، مثل مجموعة واحدة تحصل فجأة على عدد أقل من القوائم المختصرة، فسيقوم النظام بوضع علامة عليها. نحن لا ننتظر أن يلاحظ شخص ما. قمنا ببنائه لنلاحظ ذلك من أجلنا. يعمل التوظيف الذكي على نهج استباقي.

ونحن لا نشاهد الأرقام فقط. نحن نبحث عن أنماط غريبة أيضًا. مثل إذا اختفت فجأة مهارة كانت مهمة في السابق، أو إذا استمر القائمون بالتوظيف في تجاوز بعض التوصيات. هذه أدلة على أن شيئًا ما قد يحتاج إلى تعديل.

اطلب «تقرير تحيز التدقيق»

عندما تتغير الأشياء، نعيد التدريب

نحن لا نؤمن بالالتزام بنفس النموذج إلى الأبد. إذا رأينا تغييرًا كافيًا أو حصلنا على تعليقات كافية، فإننا نعيد تدريب النموذج بأحدث البيانات. بهذه الطريقة تبقى حادة وعادلة.

كما نجلب خبراء خارجيين مرة في السنة لتدقيق كل شيء. من الجيد أن يكون لديك عيون جديدة عليه. إنها تساعدنا على اكتشاف أي شيء قد نفتقده وتبقينا متماشين مع أحدث القواعد والتوقعات.

بالنسبة لنا، لا يعد إصلاح التحيز أمرًا يحدث لمرة واحدة. إنها حلقة من الفحص والتعديل والاختبار مرة أخرى والتكرار. هذه هي الطريقة التي نتأكد بها من استمرار SniperAI في فعل ما بنيناه من أجله. التوظيف الذكي والعادل والمبني على الثقة.

نحن لا نتحدث فقط عن الإنصاف، بل نتتبعه ببيانات حقيقية. فيما يلي لقطة من أحدث عمليات التدقيق التي أجريناها:

‍

تحليل التأثير المتباين: معدلات الاختيار الفعلية عبر المجموعات الديموغرافية

كل مجموعة مدرجة هنا تجتاز معيار الصناعة «قاعدة أربعة أخماس»، مما يعني أن SniperAI لا تضر بأي منها. وإذا انخفضت الأرقام في أي وقت، فقد تم تصميم النظام للإبلاغ عنها.

‍

ما تعلمناه وما نمثله

لقد أمضينا سنوات في البناء سنايبر راي وغيرها من المنتجات جيف ساي & vScreen وإذا كان هناك شيء واحد تعلمناه، فهو أن الإنصاف لا يحدث من تلقاء نفسه. عليك أن تصمم لها. تحقق من ذلك. حارب من أجل ذلك، في بعض الأحيان.

التحيز في التوظيف لا يتعلق فقط بالنوايا السيئة. في كثير من الأحيان، تكون مجرد عادات وأنماط مدمجة في البيانات القديمة. لهذا السبب قمنا ببناء SniperAI لطرح أسئلة أفضل، واستخدام بيانات أفضل، وإعطاء المجندين مزيدًا من الرؤية لما يحدث بالفعل تحت الغطاء.

نعتقد أن التوظيف يجب أن يكون حول المهارات والإمكانات، وليس حول من يناسب بعض الأنماط القديمة. لهذا السبب نستخدم بيانات مجهولة، وتحقيق التوازن بين مجموعات التدريب لدينا، واختبار كل قرار يتخذه الذكاء الاصطناعي لدينا.

نحن فخورون بما بنيناه ولكننا أيضًا صادقون بشأن حقيقة أنها عملية. نحن لا نهدف فقط إلى تلبية القواعد. نريد أن نضع المعايير أعلى. وسنستمر في الاستماع والاختبار والتحسين.

لأن التوظيف لا يتعلق فقط بملء الأدوار. يتعلق الأمر بتشكيل الفرق وفتح الأبواب وإفساح المجال للأشخاص الذين ربما تم تجاهلهم من قبل. هذا هو نوع العمل الذي نريد أن نكون جزءًا منه. وهذا ما تم تصميم SniperAI لدعمه.