Anthropic و OpenAI هر دو با پرسش‌های ناخوشایندی از سوی برخی مشتریان بزرگ هوش مصنوعی مواجه هستند، به دلیل نگرانی‌ها در مورد نحوه استفاده از داده‌های اختصاصی برای آموزش مدل‌های هوش مصنوعی. برخی شرکت‌ها آنقدر نگران هستند که شروع به درخواست تضمین‌هایی در مورد نحوه مدیریت داده‌هایشان کرده‌اند یا حتی محدودیت‌هایی را برای مدل‌هایی که کارمندانشان می‌توانند استفاده کنند و برای چه وظایفی، اعمال کرده‌اند، طبق گزارش The Information. آنها می‌ترسند که مدل‌ها ممکن است با استفاده از مالکیت فکری و اطلاعات آنها آموزش ببینند.

این مسئله به تغییرات ماه ژوئن توسط Anthropic بازمی‌گردد. پس از تغییر در سیاست‌های مدل پرچمدار Fable خود، Anthropic اکنون می‌تواند داده‌های مشتریان را نگهداری کند. این شرکت استدلال می‌کند که این کار را تنها برای اطمینان از عدم سوءاستفاده از Fable انجام می‌دهد. اما برخی شرکت‌ها نگرانی‌هایی را مطرح کرده‌اند که این به معنای درگیر شدن داده‌های حساس تجاری در این جمع‌آوری است.

در حالی که هم OpenAI و هم Anthropic اشاره می‌کنند که به طور پیش‌فرض مدل‌های خود را با اطلاعاتی که توسط شرکت‌ها با قراردادهای سازمانی خاص به آنها داده می‌شود، آموزش نمی‌دهند، این تمام ماجرا نیست. هر دو شرکت فراداده (metadata) را از همان مشتریان شرکتی جمع‌آوری می‌کنند، و در حالی که اطلاعات دقیق در مورد محتوای این فراداده به سختی به دست می‌آید، OpenAI اشاره می‌کند که این فراداده تنها “برای درک بهتر نحوه استفاده از خدمات ما” به کار می‌رود. Anthropic نیز استدلال می‌کند که هر داده‌ای که در مورد نحوه استفاده مشتریان از محصولاتش جمع‌آوری می‌کند، تجمیع و ناشناس‌سازی می‌شود. و این فراداده برای آموزش مدل‌ها استفاده نمی‌شود.

با این حال، همچنان نگرانی‌هایی در مورد عدم وضوح در مورد آنچه جمع‌آوری می‌شود، وجود دارد. طبق گزارش، شرکت مخابراتی C Spire با هر دو OpenAI و Anthropic توافق‌نامه‌هایی دارد که از استفاده هر یک از داده‌های آن برای آموزش مدل‌ها جلوگیری می‌کند.

با این حال، این قراردادها به هر دو OpenAI و Anthropic اجازه می‌دهند تا داده‌های فنی استفاده C Spire را جمع‌آوری کنند. C Spire معتقد است که این شامل اطلاعاتی در مورد اینکه مدل‌های هوش مصنوعی به چه برنامه‌هایی متصل هستند و همچنین داده‌های استفاده می‌شود. همچنین نگران است که شرکت‌های هوش مصنوعی ممکن است اطلاعاتی در مورد فعالیت مدل‌هایشان بین تولید پاسخ‌ها جمع‌آوری کنند.

OpenAI به نوبه خود می‌گوید که از این داده‌های “زنجیره فکری” برای آموزش مدل‌های خود استفاده نمی‌کند. اما C Spire همچنان معتقد است که نیاز به درک بهتری از داده‌های جمع‌آوری شده دارد، گزارش می‌افزاید. این شرکت استدلال می‌کند که هیچ یک از شرکت‌های هوش مصنوعی در توضیحات خود شفاف نیستند.

اتخاذ رویکرد خصوصی

یکی از راه‌حل‌ها برای هرگونه نگرانی حریم خصوصی می‌تواند استفاده از سرورهای ایزوله (air-gapped) باشد، کاری که شرکت هوافضای Northrop Grumman قبلاً انتخاب کرده است. The Information گزارش می‌دهد که این شرکت مدل‌های هوش مصنوعی متن‌باز را بر روی سرورهای ایزوله خود اجرا می‌کند، به جای اعتماد به شرکت‌هایی مانند OpenAI و Anthropic.

به طور جایگزین، مایکروسافت در حال حاضر تلاش می‌کند تا از هرگونه نگرانی حریم خصوصی داده‌ها با جذب مشتریان OpenAI و Anthropic به پلتفرم‌های هوش مصنوعی امن خود بهره‌برداری کند. محیط‌های ابری ایزوله مایکروسافت، مدل‌های هوش مصنوعی را بر روی سرورهای خصوصی اجرا می‌کنند که هیچ داده‌ای را به شرکت‌های هوش مصنوعی خارجی ارسال نمی‌کنند. اما این رویکرد پرهزینه است، و گزارش اشاره می‌کند که حداقل یک مشتری همچنان در حال بررسی رویکرد جایگزین مایکروسافت است.

شرکت داروسازی Novo Nordisk رویکرد کمی متفاوتی را در پیش گرفته است. در حالی که همچنان از Claude Anthropic برای برخی وظایف استفاده می‌کند، اما استفاده از هرگونه داده اختصاصی توسط این مدل را ممنوع کرده است.

واضح است که عدم اعتماد پتانسیل این را دارد که برای شرکت‌های هوش مصنوعی هزینه‌های واقعی ایجاد کند، و در یک مورد، این اتفاق قبلاً افتاده است. همان گزارش اشاره می‌کند که یک شرکت بزرگ خدمات عمومی در ایالات متحده، برنامه‌های خود را برای آزمایش Fable Anthropic لغو کرده است. این شرکت خدمات عمومی می‌خواست بداند که آیا Fable می‌تواند زیرساخت اصلی برق آن را اداره کند، اما در نهایت به دلیل امتناع Anthropic از موافقت با سیاست عدم نگهداری داده (ZDR) غیرقابل فسخ، از این کار منصرف شد.

Nvidia نیز تصمیم گرفته است از Fable برای وظایفی استفاده کند که نیازی به دسترسی به داده‌های حساس ندارند. این شرکت به همان عدم تضمین ZDR به عنوان دلیل اشاره می‌کند. در عوض، Nvidia از راه‌حل هوش مصنوعی داخلی خود برای وظایفی استفاده می‌کند که آنها را برای مدل Anthropic بیش از حد حساس می‌داند. جنسن هوانگ، مدیرعامل Nvidia، به طور مشهوری اظهار داشته است که کارمندانش باید هر سال توکن‌های هوش مصنوعی به ارزش نیمی از حقوق سالانه خود را مصرف کنند.

برای اظهار نظر با Nvidia تماس گرفته شد اما تا زمان انتشار پاسخی دریافت نشد.