Във Великобритания приключи двудневната среща на върха, посветена на безопасността на изкуствения интелект (AI), но темата продължава да вълнува медиите. BBC съобщи, че изкуственият интелект има способността да извършва незаконни финансови сделки и да ги прикрива.
Медията се позовава на проведена демонстрация на срещата на върха в Блечли парк, при която бот използва измислена информация, за да направи „незаконна“ покупка на акции, без да уведоми фирмата. На въпроса дали е използвал търговия с вътрешна информация, ботът отрече факта.
Търговията с вътрешна информация се отнася до случаите, когато поверителна информация за компанията се използва за вземане на търговски решения. Фирми и физически лица имат право да използват публично достъпна информация само, когато купуват или продават акции.
Демонстрацията беше направена от членове на правителствената работна група Frontier AI, която изследва потенциалните рискове от изкуствения интелект. Проектът е осъществен от Apollo Research, организация за безопасност на AI, която е партньор на работната група.
„Това е демонстрация на истински AI модел, който мами своите потребители сам, без да е инструктиран да го направи“, казва Apollo Research във видео, показващо как се развива сценарият.