Модел с изкуствен интелект се представи за човек и подаде фалшив сигнал за убийство

10.10.2026, 08:30 | Свят

СПОДЕЛИ:

Модел с изкуствен интелект, разработен от Anthropic, е подал фалшив сигнал за неразкрито убийство до полицията във Филаделфия, съобщиха властите в петък. Те разкритикуваха компанията за това, че е съобщила за инцидента със закъснение от два месеца, предаде АФП.

Полицейското управление на Филаделфия заяви, че сигналът е подаден през юли чрез PhillyUnsolvedMurders.com - публичен уебсайт за споделяне на информация за неразкрити убийства.

Според обяснението на Anthropic, предадено от полицията, моделът е изпълнявал тест, включващ взаимодействие с произволно избрани уебсайтове, когато е попаднал на сайта и е подал невярна информация, предава АФП.

Той се е представил като човек, който може да разполага със сведения по случая. Полицейското управление заяви, че оповестява инцидента преди публикуването на доклад, планирано от Anthropic за петък, в който се описват този и други случаи на непредвидено поведение на нейните модели.

Сигналът, датиран от 18 юли, е бил маркиран като спам и никога не е достигнал до Центъра за престъпления в реално време за проверка, посочи полицията.

Няма данни за пробив в полицейските системи или за компрометиране на информация. Според полицията Anthropic е открила инцидента на 28 септември, спряла е автоматизирания тестов процес и е добавила нов етап за валидиране при бъдещите тестове. Компанията е уведомила полицейското управление на 7 октомври, а двете страни са се срещнали на следващия ден.

„Двумесечното закъснение при откриването и докладването на инцидента пред града е неприемливо“, посочват от полицейското управление.

Оттам казват още, че въведените предпазни мерки са ограничили въздействието, но „не омаловажават сериозността на това, че система с ИИ представя измислена информация, сякаш идва от човек със сведения за убийство“. „Неразкритите случаи включват реални жертви, скърбящи семейства и разследващи, които работят, за да получат отговори“, се добавя в изявлението.

Случаят напомня за други скорошни инциденти, включително един, при който агент на OpenAI, подложен на оценка на сигурността, е напуснал тестовата си среда и е проникнал в системи на платформата Hugging Face. Епизодът засили опасенията във връзка с използването на AI агенти - системи, програмирани да извършват многостъпкови действия без човешки надзор. /Източник: БТВ

КОМЕНТАРИ 0

СВЪРЗАНИ НОВИНИ

Стана ясно кой е виновникът за неприятната миризма в Перник

06.11.2026, 13:24


Без шум и без очакване: Мъж направи нещо, което разтопи сърцето на дама в Перник

06.11.2026, 13:14


Чистят пътя към гробищния парк в Перник, пускат безплатен транспорт за задушница

06.11.2026, 12:25


Отиде си дългогодишен директор на VI СУ „Св. Св. Кирил и Методий“ в Перник

06.11.2026, 10:14


Перничани: Пътуването до столицата пълен хаос - закъснения на влаковете, тапи на пътя

06.11.2026, 09:39


Пълна програма на "Ноемврийските музикални дни" в Перник

06.11.2026, 08:19


Жители на "Ладовица" с подписка и апел: Не паркирайте по зелените площи край стадион „Металург“

06.11.2026, 07:53


Психолог, актриса и ученици в подкрепа на бездомните животни

06.11.2026, 00:28


Усилено ремонтират алеите в гробищния парк на Перник

05.11.2026, 16:16


След побой с маркуч и връзване с верига за животни: Доживотен затвор за жестоко убийство в Богданов дол

05.11.2026, 15:47


„ВиК“ ООД гр. Перник спечели проект по програма „Развитие на човешките ресурси“

05.11.2026, 12:12


За поредна година спортен празник „Мама, татко и аз!“ в Перник

05.11.2026, 11:16


Перничанин, дрогиран с два вида наркотици, подкара товарен автомобил

05.11.2026, 11:11


Задържан без книжка и с чужди табели се оказа заподозрян за кражба от фирма

05.11.2026, 10:53


Арестуваха момче и момиче за притежание на дрога

05.11.2026, 10:49


Над 80 сгради в центъра на Перник без парно днес

05.11.2026, 08:24


Ето какво установи проверката на министър Шишков на пътя София - Перник през Владая

05.11.2026, 08:11


Веселин Маринов гостува в Перник утре

05.11.2026, 00:35


Опасно забавление: Тийнейджъри правят лицеви опори по средата на магистралата /ВИДЕО/

04.11.2026, 15:31


Мъж без книжка подкара кола с чужди номера

04.11.2026, 12:19


Тежка контузия изхвърля капитана на Струмска слава от мача с Балкан

06.11.2026, 15:54


Предаваме на Гърция българин, осъден в Солун на 278 години затвор

06.11.2026, 15:37


Възпоменателно честване по повод 141 години от паметната битка край Брезник

06.11.2026, 15:29


Допинг изхвърли от щангите за 4 години олимпийския ни медалист Божидар Андреев

06.11.2026, 15:28


Тревога в небето над София: Два самолета от Европа кацнаха под специален режим заради бомбена заплаха

06.11.2026, 14:44


Радев: Бюджет 2027 е един тежък камион с отказали спирачки

06.11.2026, 14:42


Силно земетресение край Токио

06.11.2026, 14:40


Почина Константин Тренчев – основателят на КТ „Подкрепа“

06.11.2026, 14:36


Дара получи покана за "Евровизия Азия"

06.11.2026, 13:28


Стана ясно кой е виновникът за неприятната миризма в Перник

06.11.2026, 13:24


Без шум и без очакване: Мъж направи нещо, което разтопи сърцето на дама в Перник

06.11.2026, 13:14


Открито е огнестрелното оръжие, с което е извършено убийството на Илиян Филипов

06.11.2026, 12:48


Морето изхвърли дрон край Шабла, предполага се, че носи взрив

06.11.2026, 12:35


Чистят пътя към гробищния парк в Перник, пускат безплатен транспорт за задушница

06.11.2026, 12:25


Държава на абсурдите: Серийни биячи тероризират София, пуснали единия „по погрешка“

06.11.2026, 10:39


Отиде си дългогодишен директор на VI СУ „Св. Св. Кирил и Методий“ в Перник

06.11.2026, 10:14


Влак удари кола на жп прелез

06.11.2026, 09:59


Мъж задигна оборота на два магазина в рамките на минути

06.11.2026, 09:52


Перничани: Пътуването до столицата пълен хаос - закъснения на влаковете, тапи на пътя

06.11.2026, 09:39


ЕК поиска обяснения за ръста на разходите на България

06.11.2026, 09:35


АНКЕТА