A Microsoft a múlt héten elindított egy új mesterségesintelligencia-bogár-programot, amely a világ minden tájáról jutalmazza a biztonsági kutatókat az új, innovatív, mesterséges intelligencia alapú Bing-termékek és -alkalmazások sebezhetőségeinek felfedezéséért.
Ez része a vállalat azon folyamatos erőfeszítéseinek, hogy megvédje ügyfelei magánéletét és adatait a biztonsági fenyegetésekkel szemben.
A Microsoft elindítja a Bing AI Bug Bounty programot
„Folyamatosan fejlesztjük, ismételjük és fejlesztjük jutalomprogramjainkat, hogy segítsük a Microsoft ügyfeleit abban, hogy a folyamatosan változó biztonsági környezetben és a feltörekvő technológiákban az élen maradjanak.” mondja Lynn Miyashita, MSRC Bug Bounty közösségi alapú védelmi biztonság.
„Az új Microsoft AI jutalomprogram az elmúlt néhány hónap kulcsfontosságú befektetéseinek és tanulságainak eredményeként jött létre, beleértve az AI biztonsági kutatási kihívást és a Microsoft mesterséges intelligencia-rendszerek sebezhetőségi súlyossági osztályozásának frissítését.”
A redmondi óriás szerint a bing.com böngészőben található, mesterséges intelligencia által vezérelt Bing-élmények minden sebezhetősége, köztük a Bing Chat, a Bing Chat for Enterprise és a Bing Image Creator, az új jutalomprogram hatálya alá tartozik.
Ezenkívül a mesterséges intelligencia által vezérelt Bing-integrációk, amelyek jutalmakra jogosultak, a Microsoft Edge (Windows), köztük a Bing Chat for Enterprise, a Microsoft Start Application (iOS és Android), valamint a Skype mobilalkalmazás (iOS és Android).
A Microsoft szerint a világ minden biztonsági kutatója, korábbi tapasztalatuktól és tartózkodási helyétől függetlenül részt vehet ebben a hibajavító programban. A kutatók eredményeiket a A Microsoft Security Research Center (MSRC) portálja a „Bing” részben, és adja meg a beszélgetés azonosítóját, és írja le a támadási vektort.
A társaság saját belátása szerint elfogadhat vagy elutasíthat minden olyan beadványt, amelyről megállapítja, hogy nem felel meg a fenti kritériumoknak.
A jutalomdíjra való jogosultsághoz a Bing-felhasználóknak tájékoztatniuk kell a Microsoftot egy korábban ismeretlen biztonsági résről, amely a vállalat kritériumai szerint „kritikus” vagy „fontos” biztonsági rés. Tartalmazniuk kell továbbá világos, tömör és reprodukálható lépéseket, akár írásban, akár videó formátumban, hogyan reprodukálható a probléma a termék vagy szolgáltatás legújabb, teljesen javított verzióján.
A Microsoft olyan sebezhetőségeket keres, amelyek megfelelnek a következő definícióknak:
- A Bing csevegési viselkedésének a felhasználói határokon átnyúló befolyásolása és megváltoztatása, azaz az AI olyan módon történő megváltoztatása, amely hatással van az összes többi felhasználóra.
- A Bing csevegési viselkedésének módosítása a kliens és/vagy a kiszolgáló látható konfigurációjának módosításával, például hibakeresési jelzők beállítása, szolgáltatásjelzők módosítása stb.
- A Bing beszélgetések közötti memóriavédelmének feltörése és az előzmények törlése.
- A Bing belső működésének és utasításainak, döntéshozatali folyamatainak és bizalmas információinak feltárása.
- A Bing csevegési mód munkamenet-korlátainak és/vagy korlátozásainak/szabályainak megkerülése.
Az új program 2000 és 15 000 dollár közötti jutalmat kínál majd a minősített beküldésekért, a legmagasabb jutalmat pedig a mesterséges intelligencia által vezérelt „Bing-élmény” sérülékenységének súlyossága és hatása, valamint a beküldött anyagok minősége miatt. A jogosult pályaműveket a legmagasabb minősítési díjjal jutalmazzák.
„A Microsoft AI jutalomprogram hatóköre az azonosított termékek és szolgáltatások AI-alapú Bing-élményeinek technikai sebezhetőségeire korlátozódik. Ha kutatása során vásárlói adatokat fedez fel, vagy nem világos, hogy biztonságos-e a folytatás, kérjük, álljon meg és lépjen kapcsolatba velünk a következő címen: [email protected]– jegyzi meg Lynn.
Megnézheti a program oldala további információért az új, mesterséges intelligencia által vezérelt Bing bug bounty programról.
