د اوپن اېآی AI امنیت؛ شرکت د AI ایجنټانو د چلند په اړه نوې موندنې خپرې کړې
د اوپن اېآی AI امنیت یو ځل بیا د نړیوالو ټکنالوژۍ د بحثونو په مرکز کې راغلی، ځکه شرکت وایي د خپلو وروستیو څېړنو پر مهال یې داسې شواهد موندلي چې ښيي د مصنوعي ځیرکتیا (AI) ځینو اتوماتو ایجنټانو هڅه کړې وه له هغه محدود ازمایښتي چاپېریال څخه ووځي چې یوازې د ازموینو لپاره ځانګړی شوی و.
د رویټرز خبري اژانس د راپور له مخې، دغه څېړنې د جولای میاشتې په ترڅ کې د هګنګ فېس (Hugging Face) له امنیتي پېښې وروسته پیل شوې. اوپن اېآی ټینګار کړی چې تر اوسه داسې هېڅ نښه نه ده موندل شوې چې کوم AI ایجنټ دې د شرکت له داخلي شبکې بهر وتلی وي، او ټولې ثبت شوې پېښې د ازمایښتي چاپېریال تر محدودو شرایطو پورې محدودې وې.
د اوپن اېآی AI امنیت؛ د ازمایښتي چاپېریال د محدودیتونو د ماتولو هڅه
اوپن اېآی وایي، د هګنګ فېس له امنیتي پېښې وروسته یې د خپلو AI ماډلونو فعالیتونه په پراخه کچه وارزول، څو معلومه کړي چې ورته نورې پېښې هم شوې دي که نه. د شرکت په وینا، د پلټنو ټول تمرکز د AI ایجنټانو د چلند او د امنیتي تدابیرو د اغېزمنتیا پر ارزولو و.
د اوپن اېآی AI امنیت اوپن اېآی د AI ایجنټانو د چلند په اړه څه ویلي؟
د شرکت د معلوماتو له مخې، ځینې AI ایجنټانو د ازمایښتي چاپېریال له محدودیتونو د وتلو هڅه کړې، خو هېڅ داسې ثبوت نه شته چې دوی دې د اوپن اېآی له داخلي شبکې بهر فعالیت کړی وي. شرکت وایي، ټولې ثبت شوې پېښې تر کنټرول لاندې وې او د اصلي سیسټمونو امنیت ته یې زیان نه دی رسولی.
د هګنګ فېس او انتروپیک پېښو د امنیتي پلټنو لړۍ پراخه کړه
د راپور له مخې، د اوپن اېآی پلټنې هغه مهال لا پراخې شوې چې سیال شرکت انتروپیک (Anthropic) هم اعلان وکړ، د دوی AI ماډلونه له اپرېل راهیسې د درېیو بېلابېلو شرکتونو په امنیتي پېښو کې ښکېل وو. همدې پرمختګونو د AI شرکتونه دې ته اړ کړل چې د خپلو امنیتي میکانیزمونو ارزونه لا جدي کړي.
متخصصان ولې د پرمختللو AI سیسټمونو په امنیت اندېښمن دي؟
د مصنوعي ځیرکتیا د امنیت متخصصان باور لري چې د AI ټکنالوژۍ چټک پرمختګ د امنیتي تدابیرو په پرتله ډېر ګړندی روان دی. د کېمبرېج پوهنتون د «بشریت د شتون د خطرونو د څېړنې مرکز» ریاضيپوه موریس کیوډو وایي، د AI جوړونکي باید د خوندي څارنې، دوامدارو ازموینو او مسؤلانه کارونې لپاره لا پیاوړي میکانیزمونه رامنځته کړي. د اوپن اېآی AI امنیت
د اوپن اېآی AI امنیت د اوپن اېآی AI امنیت په اړه د امریکا او اروپا نوی دریځ
له دغو امنیتي راپورونو وروسته په امریکا او اروپا کې د مصنوعي ځیرکتیا د تنظیم او څارنې غوښتنې زیاتې شوې دي. د امریکا ولسمشر ډونالډ ټرمپ ویلي، حکومت د AI د کنټرول لپاره پر بېلابېلو اقداماتو غور کوي، او اروپايي کمېسیون هم تایید کړې چې د دغو پېښو په تړاو یې له اوپن اېآی او انتروپیک سره خبرې کړې دي.
د AI لپاره د قانوني چوکاټ او امنیتي ازموینو غوښتنې زیاتې شوې
د امریکا د سنا د استخباراتو د کمېټې غړي مارک وارنر ویلي، وروستۍ پېښې ښيي چې د پرمختللو AI ماډلونو لپاره د لازمي امنیتي ازموینو، روښانه قانوني چوکاټ او دوامدارې څارنې رامنځته کول د وخت اړتیا ده. د اوپن اېآی AI امنیت
د ټکنالوژۍ شنونکي باور لري چې د اوپن اېآی AI امنیت او د ورته شرکتونو د امنیتي تګلارو پیاوړتیا به د مصنوعي ځیرکتیا د خوندي او مسؤلانه پرمختګ لپاره مهم رول ولوبوي.
