چه داده‌ای را به ابزارهای هوش مصنوعی بدهیم؟
یک نفر از تیم فروش قراردادی را که با مشتری امضا نکرده در یک ابزار هوش مصنوعی می‌گذارد تا «جمله‌هایش را مرتب کند». حسابدار فایل اکسل ترازِ سه ماه را می‌چسباند تا خلاصه‌اش را بخواهد. برنامه‌نویس پیام خطایی را که نام سرور و رمز در آن هست، کپی می‌کند.
هیچ‌کدام بد‌نیت نیستند. دارند کارشان را سریع‌تر انجام می‌دهند، دقیقاً همان کاری که از آن‌ها خواسته‌اید.
و شما احتمالاً نمی‌دانید که این اتفاق می‌افتد. مسئله این نیست که ابزارها خطرناکند؛ مسئله این است که قاعده‌ای ننوشته‌اید، پس هر کس برای خودش قاعده ساخته.
ممنوع کردن جواب نیست
اولین واکنش معمولاً «همه‌اش را ببندیم» است. نتیجه‌اش را از نرم‌افزارهای خارج از کنترل واحد فناوری می‌شناسید: استفاده نمی‌ایستد، فقط از دید شما بیرون می‌رود — روی گوشی شخصی، با حساب شخصی، بدون هیچ ردی.
این ابزارها واقعاً کار را بهتر می‌کنند. سیاستی که این را نبیند، اجرا نمی‌شود. سیاستی که بگوید «برای چه کاری، با چه داده‌ای، از کدام ابزار»، اجرا می‌شود.
سه دسته داده
پیش از هر بحثی دربارهٔ ابزار، داده را دسته‌بندی کنید. سه دسته کافی است و هر کارمندی همان لحظه می‌تواند بگوید چیزی که در دست دارد کدام است.
آزاد. متن‌هایی که قرار است عمومی شوند: پیش‌نویس پست، توضیح محصول، ترجمهٔ متنی که روی سایت می‌رود، سؤال عمومی دربارهٔ یک مفهوم. اگر بیرون برود، چیزی از دست نرفته.
با احتیاط. اسناد داخلی که هویت کسی در آن نیست: صورت‌جلسهٔ کلی، ساختار یک فرایند، پیش‌نویس گزارش. اینجا دو راه دارید: نام‌ها و اعداد را حذف یا جایگزین کنید، یا فقط از ابزاری استفاده کنید که شرکت تأیید کرده است.
ممنوع از خروج. هر چیزی که مشتری یا کارمندی را با نام و مشخصات می‌شناساند، قراردادهای دارای تعهد محرمانگی، اعداد مالی منتشرنشده، رمز و کلید و نشانی سرور، کد منبع بخش‌های اصلی، و هر داده‌ای که قانون یا قرارداد دربارهٔ آن حکم دارد (سلامت، مالی، هویتی).
لازم نیست فهرست کامل باشد. لازم است یک نفر بتواند در ده ثانیه بگوید «این از کدام دسته است».
پنج سؤال دربارهٔ هر ابزار
«ابزار امن» یا «ابزار ناامن» وجود ندارد. هر ابزار در هر نوع حساب شرایط خودش را دارد، و آن شرایط عوض می‌شود. پس به‌جای اعتماد به اسم، از هر ابزاری که می‌خواهید تأیید کنید همین پنج چیز را بپرسید و جوابش را از خود شرایط استفادهٔ همان سرویس بخوانید، نه از یادداشت دیگران:
۱. داده کجا پردازش و نگه‌داری می‌شود؟ کشور، و اینکه آیا برای شما دسترس‌پذیر و قانونی است. اگر دسترسی به ابزار از راه واسطه یا حساب دست‌دوم است، این را همین‌جا بنویسید؛ چون روی خود داده هم اثر دارد.
۲. آیا ورودی‌های من برای بهبود مدل استفاده می‌شود؟ در بسیاری از سرویس‌ها این به نوع حساب (شخصی یا سازمانی) و یک تنظیم وابسته است. فرض نکنید؛ بخوانید.
۳. چه مدت نگه می‌دارد و چطور پاک می‌کنید؟ و آیا گفتگوها را کسی در سمت سرویس می‌بیند.
۴. حساب کدام است؟ حساب شخصی کارمند یا حساب شرکت. وقتی کارمند می‌رود، با تاریخچهٔ گفتگوهایش چه می‌شود؟
۵. ثبت و ردگیری. اگر لازم شد بفهمید چه داده‌ای رفته، راهی هست؟
برای ابزارهایی که خودتان برای شرکت می‌سازید یا می‌خرید، سؤال‌ها عمیق‌تر است و بندهای قرارداد هم جدا. این مقاله دربارهٔ کارمندی است که امروز صبح یک تب باز کرده.
وقتی داده نباید بیرون برود
گاهی پاسخ این نیست که «استفاده نکنید». سه راه هست:
- داده را ناشناس کنید. نام‌ها و اعداد را با نشانگر عوض کنید. اغلب برای کاری مثل بازنویسی یا خلاصه کافی است و ابزار هیچ چیز واقعی نمی‌بیند.
- مدل را داخل سازمان ببرید. هزینه و نگه‌داری دارد، ولی داده از مرز شما نمی‌گذرد (استقرار مدل زبانی داخل سازمان).
- ابزار را به دانش خودتان وصل کنید، نه دانش خودتان را به ابزار بیرون (دستیار دانش داخلی).
بسته به حجم و حساسیت، یکی از این‌ها کار را راه می‌اندازد. اگر هیچ‌کدام لازم نبود، همان دستهٔ «با احتیاط» کافی است.
سیاست یک‌صفحه‌ای
سندی که کسی نخواند، اثر ندارد. این چهار بخش در یک صفحه جا می‌شود:
- سه دسته با دو مثال برای هر کدام، از کار خود شرکت.
- ابزارهای تأییدشده و برای هر کدام، دسته‌ای که در آن مجاز است.
- اگر اشتباه کردید، به چه کسی و چطور بگویید، و اینکه گفتن مجازات ندارد. کسی که از ترس سکوت کند، داده‌ای را که رفته دیگر نمی‌توان ردیابی کرد.
- تاریخ بازبینی. فهرست ابزارها زود کهنه می‌شود؛ سه تا شش ماه یک بار بازنگری کنید.
یک نکته که فراموش می‌شود
همین سؤال را از هر پیمانکاری هم بپرسید که به داده‌تان دسترسی پیدا می‌کند: تیم او داده‌ٔ شما را در کدام ابزارها می‌گذارد؟ (هفت سؤال این را هم دارد.)
آخرین بازبینی: آبان ۱۴۰۵. شرایط استفادهٔ ابزارها مرتب عوض می‌شود؛ هر تصمیم را با خود صفحهٔ شرایط همان روز بسنجید.