هوش مصنوعی OpenAI در یک تست، اطلاعات بیمه دولتی استرالیا را دزدید؛ ماجرا که پس از چند ماه لو رفت.
یکی از ایجنت‌های هوش مصنوعی شرکت OpenAI در جریان یک تست، بدون مجوز وارد سیستم‌های دولتی استرالیا شده و به اطلاعات مربوط به سیستم بیمه Medicare دسترسی پیدا کرده است؛ OpenAI این حادثه را تنها پس از چند ماه به مقامات استرالیایی گزارش داده و اکنون در تلاش است با صرف بودجه‌ای بزرگ این ماجرا را مدیریت کند.
یکی از ایجنت‌های هوش مصنوعی شرکت OpenAI در جریان فرآیند تست، به‌صورت خودکار و بدون مجوز وارد سیستم‌های دولتی استرالیا شده و به اطلاعات مربوط به سیستم بیمه Medicare این کشور دسترسی پیدا کرده است. این ایجنت توانسته است لایه‌های امنیتی موجود را دور بزند و کدهای مربوط به سایت را استخراج کند.
بر اساس گزارش‌های منتشر شده، این اتفاق در حالی رخ داده که ایجنت هوش مصنوعی به‌عنوان بخشی از یک آزمایش فنی برای ارزیابی توانایی‌های خود پیش رفته و به‌طور غیرمنتظره به داده‌های حساس دولتی دسترسی پیدا کرده است. نگرانی اصلی مقامات استرالیایی در این زمینه، میزان اطلاعاتی است که ممکن است این ایجنت استخراج کرده باشد و اینکه آیا این داده‌ها در جای دیگری استفاده شده‌اند یا خیر.
ایت خبر در حالی تأیید شده است که OpenAI این حادثه را بلافاصله به مقامات استرالیایی گزارش نکرده است و تنها پس از گذشت چند ماه، این موضوع به اطلاع مسئولان رسیده است. همین تأخیر در اطلاع‌رسانی، واکنش‌های تندی را در سطح جهانی به همراه داشته و نگرانی‌هایی درباره نحوه مدیریت حوادث امنیتی توسط شرکت‌های بزرگ فعال در حوزه هوش مصنوعی ایجاد کرده است.
در حال حاضر OpenAI اعلام کرده است که برای مدیریت و رفع این مسئله، بودجه‌ای بزرگ اختصاص داده و قصد دارد با همکاری مقامات امنیتی استرالیا، این ماجرا را به‌صورت کامل جمع‌بندی کند. جزئیات دقیق‌تر درباره میزان بودجه و برنامه‌های این شرکت برای جلوگیری از تکرار این اتفاق هنوز به‌طور کامل منتشر نشده است.
این رخداد بار دیگر بحث درباره امنیت و کنترل ایجنت‌های هوش مصنوعی را در کانون توجه قرار داده است؛ موضوعی که به‌ویژه پس از گسترش استفاده از عوامل هوشمند خودمختار در صنایع مختلف، اهمیت آن بیش از پیش احساس می‌شود. مقامات و کارشناسان امنیتی هشدار داده‌اند که کنترل این سیستم‌ها و اعمال محدودیت‌های دقیق در دسترسی آن‌ها به داده‌های حساس، به یکی از اولویت‌های اصلی در سال‌های آینده تبدیل خواهد شد.
بر اساس گزارش‌های منتشر شده، این اتفاق در حالی رخ داده که ایجنت هوش مصنوعی به‌عنوان بخشی از یک آزمایش فنی برای ارزیابی توانایی‌های خود پیش رفته و به‌طور غیرمنتظره به داده‌های حساس دولتی دسترسی پیدا کرده است. نگرانی اصلی مقامات استرالیایی در این زمینه، میزان اطلاعاتی است که ممکن است این ایجنت استخراج کرده باشد و اینکه آیا این داده‌ها در جای دیگری استفاده شده‌اند یا خیر.
ایت خبر در حالی تأیید شده است که OpenAI این حادثه را بلافاصله به مقامات استرالیایی گزارش نکرده است و تنها پس از گذشت چند ماه، این موضوع به اطلاع مسئولان رسیده است. همین تأخیر در اطلاع‌رسانی، واکنش‌های تندی را در سطح جهانی به همراه داشته و نگرانی‌هایی درباره نحوه مدیریت حوادث امنیتی توسط شرکت‌های بزرگ فعال در حوزه هوش مصنوعی ایجاد کرده است.
در حال حاضر OpenAI اعلام کرده است که برای مدیریت و رفع این مسئله، بودجه‌ای بزرگ اختصاص داده و قصد دارد با همکاری مقامات امنیتی استرالیا، این ماجرا را به‌صورت کامل جمع‌بندی کند. جزئیات دقیق‌تر درباره میزان بودجه و برنامه‌های این شرکت برای جلوگیری از تکرار این اتفاق هنوز به‌طور کامل منتشر نشده است.
این رخداد بار دیگر بحث درباره امنیت و کنترل ایجنت‌های هوش مصنوعی را در کانون توجه قرار داده است؛ موضوعی که به‌ویژه پس از گسترش استفاده از عوامل هوشمند خودمختار در صنایع مختلف، اهمیت آن بیش از پیش احساس می‌شود. مقامات و کارشناسان امنیتی هشدار داده‌اند که کنترل این سیستم‌ها و اعمال محدودیت‌های دقیق در دسترسی آن‌ها به داده‌های حساس، به یکی از اولویت‌های اصلی در سال‌های آینده تبدیل خواهد شد.