Microsoft вирішила впровадити штучний інтелект для виявлення помилок

Команда Microsoft повідомила, що вирішила задіяти машинне навчання в спільній роботі з експертами з безпеки, які виявляють помилки і уразливості в програмному забезпеченні. Корпорація сподівається, що впровадження штучного інтелекту(ШІ) дозволить підвищити ефективність такої роботи.

У Microsoft відзначили, що занадто часто інженери витрачають час на помилкові спрацьовування або, навпаки, пропускають критичну уразливість безпеки, яка була помилково класифікована. За даними корпорації, 47 000 розробників генерують щомісяця близько 30 тисяч помилок. Дані розміщуються в більш ніж 100 сховищах AzureDevOps і GitHub.

Компанія вважає, що просте розширення штату співробітників спрацювало б менш ефективно, а нинішні обсяги напіввідкритих даних ідеально підходять для машинного навчання. Всього з 2001 року зібрано 13 мільйонів робочих елементів і помилок. Всі ці дані задіяли для розробки моделі машинного навчання, яку навчили розрізняти помилки безпеки і помилки, не пов'язані з нею. У 99% випадків модель ШІ точно виявляє робочі елементи, які є помилками безпеки, а в 97% - маркує критичні і некритичні помилки безпеки.

В процесі навчання модель вчать класифікувати дані з попередньо позначених масивів. Як тільки процес завершиться, ШІ зможе використовувати отримані дані для маркування тих, що не були попередньо класифіковані. Експерти з безпеки затвердили дані для навчання, перш ніж їх передали в модель. Вони використовували в роботі статистичну вибірку, щоб обсяг даних був керований для аналізу. Як тільки модель запрацювала, експертів з безпеки знову привернули, щоб оцінити її у виробництві. Вони відстежували середню кількість помилок, вручну переглядаючи випадкову вибірку.

У корпорації використовували двоетапну модель машинного навчання. Спочатку вона навчилася класифікувати помилки безпеки і не пов'язані з безпекою, а потім почала застосовувати мітки, виділяючи критичні, важливі і малоефективні помилки безпеки.

У Microsoft організували також автоматичне повторне навчання моделі. Дані для перенавчання і раніше затверджуються експертом з безпеки.

Читайте також:

• Пенсійний сюрприз: суддям підвищили пенсії до 100 тисяч грн
• Нашестя змій на Закарпатті: небезпека чатує в будинках та на городах
• Найстрашніше попереду: чим слід уже робити запаси жителям Закарпаття на найближчий період?
• На Закарпатті вимикатимуть світло не тільки по графіку: де ще плануються додаткові відключення (ПЕРЕЛІК)