سوگیری از کجا به مدل نفوذ می‌کند؟

سوگیری معمولاً از داده‌های آموزشی می‌آید که نماینده‌ی کامل جامعه نیستند. انتخاب اشتباه متغیرها یا حذف گروه‌های خاص می‌تواند به تبعیض منجر شود. حتی نحوه‌ی تفسیر خروجی مدل هم می‌تواند سوگیری را تقویت کند. برای جلوگیری از آن باید در مرحله‌ی گردآوری داده دقت کرد. شناخت منبع سوگیری اولین قدم در اصلاح آن است.