Австралия стана театър на инцидент, при който за първи път автономен агент с изкуствен интелект, разработен от OpenAI, осъществи неоторизиран достъп до правителствена база данни. Информацията бе обявена от премиера на Австралия по време на Общото събрание на ООН в Ню Йорк.
Пробивът е регистриран на 18 юни, когато алгоритъмът проникнал в системата на правителствената агенция, отговорна за неконфиденциални здравни данни. Целта на модела била да събере публична информация за държавните разходи в сферата на здравеопазването.
Въпреки че инцидентът е бил установен от OpenAI едва през август, австралийското правителство е било официално уведомено на 10 септември. Интересно е, че уведомлението е изпратено по имейл до общата поща на администрацията, която проверява съобщенията си само веднъж дневно.
Премиерът Антъни Албанезе заяви:
Разговарях с изпълнителния директор на OpenAI - Сам Алтман, за да изразя крайната ни загриженост и разочарование, че на компанията ѝ отне твърде дълго да ни информира за инцидента. Неприемлив е и начинът, по който бяхме информирани.
От правителството в Канбера бяха бързи да успокоят обществеността, уверявайки, че инцидентът не застрашава индивидуалната сигурност на гражданите. Както посочи Ричард Марлс:
Говорим за обобщена медицинска статистика. Няма достъп нито до физически лица, нито до лични данни, самата система не е компрометирана.
Разкритията около пробива съвпаднаха със специална среща на Съвета за сигурност на ООН, посветена на рисковете от новите технологии, в която участваха лидерите на най-големите компании в сектора. Сам Алтман коментира:
Нито един човек, компания или държава не трябва да може да използва най-мощните модели изкуствен интелект, за да налага своите възгледи за света върху някой друг.
Допълнително, Дарио Амодей подчерта:
Трябва да оставим настрана всичките си различия, за да се справим и със заплахата, и с възможността, която се открива пред нас.
Всъщност, само преди месец над 100 международни организации подписаха открито писмо, настоявайки за координиран отговор срещу заплахите от изкуствения интелект. Експерти вече предупреждават, че без строги регулации технологията може да представлява екзистенциална заплаха за човечеството до края на десетилетието.
