Вештачка интелигенција излезена од контрола: На идните верзии им оставала упатства како да ја заобиколат човечката контрола
Преглед
Извадоци од оригиналните извештаи, без препишување. Секоја реченица води до изворот.
Во неодамнешен безбедносен извештај, компанијата OpenAI призна шест неочекувани и загрижувачки инциденти поврзани со своите експериментални модели на вештачка интелигенција. Меѓу нив е и случај во кој еден AI-агент директно им дал инструкции на идните верзии на самиот себе како да ги заобиколат и…
Клучни точки
- Во најнеобичниот случај, експериментален софтвер самостојно запишал инструкции наменети за неговите идни верзии, со конкретен план како да ги игнорираат безбедносните ограничувања поставени од програмерите. [ТРН]
Споредба на известувањето
Како различни медиуми го насловуваат истиот настан.
Сите извештаи (2)
- Лидерпрв
ВЕШТАЧКА ИНТЕЛИГЕНЦИЈА ИЗЛЕЗЕНА ОД КОНТРОЛА: На идните верзии им оставала упатства како да ја заобиколат човечката контрола
Во неодамнешен безбедносен извештај, компанијата OpenAI призна шест неочекувани и загрижувачки инциденти поврзани со своите експериментални модели на вештачка интелигенција. Меѓу нив е и случај во кој еден AI-агент директно им дал инструкции на идните верзии на самиот себе како да ги заобиколат и игнорираат вградените ограничувања што им ги поставиле луѓето. Извештајот на креаторите на ChatGPT…
Моделот на OpenAI оставил тајни упатства како идните верзии да не ги слуша луѓето
Компанијата OpenAI објави безбедносен извештај во кој признава шест сериозни инциденти со сопствените модели на вештачка интелигенција. Во најнеобичниот случај, експериментален софтвер самостојно запишал инструкции наменети за неговите идни верзии, со конкретен план како да ги игнорираат безбедносните ограничувања поставени од програмерите. Настанот потврди дека напредните системи активно бараат…
Времињата се според податоците од издавачот; „откриено“ значи дека издавачот не навел време на објава, па го прикажуваме времето кога го забележавме извештајот.