В иновативно сътрудничество с Mozilla, AI системата на Anthropic, Claude, разкри 22 различни уязвимости в браузъра Firefox, от които 14 са класифицирани като "висока степен на сериозност". Повечето от тези проблеми са адресирани в наскоро издадения Firefox 148, въпреки че някои решения са планирани за следващото обновление.
Използвайки Claude Opus 4.6 в продължение на две седмици, екипът на Anthropic започна своето разследване в JavaScript двигателя, след което разшири анализа си към други сегменти от кода. Решението да се фокусират върху Firefox произтича от репутацията му на сложен и сигурен проект с отворен код, който е преминал през обширно тестване.
Интересно е, че докато Claude Opus се справяше отлично с откритията на уязвимости, той срещна трудности при разработването на софтуер за експлоатиране на тези слабости. Екипът инвестира 4000 долара в кредити за API, опитвайки се да създаде доказателства за концепции за експлойти, но успяха само в два случая.
Тази инициатива подчертава значителния потенциал на AI инструментите за повишаване на сигурността на проектите с отворен код, въпреки предизвикателствата, които могат да предизвикат, като например увеличен брой по-малко полезни заявки за сливане.