Google розширює свою поточну схему винагороди за помилки, щоб винагороджувати хакерів і дослідників безпеки, які виявляють можливі атаки в генеративному ШІ. Програма винагороди за вразливість (VRP) містить чіткі вказівки щодо відповідних звітів для отримання фінансової винагороди. Якщо про проблему можна повідомити, ви можете подати її на веб-сайті Bug Hunter і отримати винагороду, якщо вона буде визнана дійсною.
Минулого року Google заплатила фахівцям із безпеки 12 мільйонів доларів за розкриття недоліків безпеки. У серпні компанія зустрілася з іншими делегатами галузі та дослідниками безпеки на Defcon, найбільшому публічному заході для генеративного штучного інтелекту, у Білому домі, щоб визначити можливі проблеми.
До цього моменту компанія використовувала власну «червону команду штучного інтелекту» для дослідження загроз штучного інтелекту, виявлення помилок і розробки засобів захисту системи.
Згідно з новими правилами, зовнішні хакери тепер можуть імітувати атаки, наприклад, щоб виявити недоліки в системах і службах штучного інтелекту Google, але вони повинні працювати в суворих рамках. Розширення схеми стимулювання передувало введенню нового виконавчого указу президентом Байденом.
Наприклад, 30 жовтня Джо Байден видав першу обов’язкову державну постанову щодо штучного інтелекту. Виконавчий наказ передбачає ретельну оцінку моделей штучного інтелекту перед їх використанням державними установами.