حاکمیت داده در هوش مصنوعی سازمانی

هفت پرسشی که واحد انطباق می‌پرسد

• داده در کدام مرز جغرافیایی و کدام شبکه پردازش می‌شود؟
• آیا متن اسناد از سازمان خارج می‌شود، حتی موقت؟
• هر کاربر به چه داده‌ای دسترسی دارد و این محدودیت کجا اعمال می‌شود؟
• آیا می‌توان گفت چه کسی، چه زمانی، چه پرسشی کرده و چه پاسخی گرفته؟
• اگر پاسخی نادرست بود، مسیر بازگشت و اصلاحش چیست؟
• داده‌ی پرسش‌ها چقدر نگهداری می‌شود و چطور حذف می‌شود؟
• اگر قرارداد پایان یابد، داده و پایگاه دانش چه می‌شود؟

اگر پاسخ هیچ‌کدام از این‌ها «بستگی دارد» یا «بعداً مشخص می‌شود» باشد، پروژه در مرحله‌ی تأیید انطباق متوقف می‌شود — معمولاً بعد از اینکه بودجه‌اش خرج شده.

کنترل دسترسی باید در لایه‌ی بازیابی باشد

اگر مدل ابتدا همه‌ی اسناد را ببیند و بعد پاسخ بر اساس دسترسی کاربر فیلتر شود، داده عملاً نشت کرده — فقط نمایش داده نشده. مدل آن را دیده و ممکن است در پاسخی دیگر بازتابش دهد.

معماری درست این است که دسترسی کاربر پیش از بازیابی اعمال شود: سندی که کاربر حق دیدنش را ندارد، اصلاً وارد مرحله‌ی بازیابی نمی‌شود. آنچه مدل نمی‌بیند، نمی‌تواند لو بدهد.

از کجا شروع کنیم

تجربه‌ی متعارف این است که با یک حوزه‌ی کم‌ریسک و درون‌سازمانی شروع شود که خروجی‌اش رو به بیرون نیست — مثلاً پرسش‌های منابع انسانی یا آیین‌نامه‌های داخلی.

پس از اینکه کنترل دسترسی و لاگ در عمل جواب داد و واحد انطباق تأییدش کرد، گسترش به حوزه‌های حساس‌تر بسیار ساده‌تر است، چون دیگر بحث بر سر معماری نیست.