Datum och tid: 2025-02-22 02:03 CET
Upptäckt av “Peer Review”-kampanjen
OpenAI har nyligen identifierat en kinesisk säkerhetsoperation som utvecklat ett AI-baserat övervakningsverktyg för att i realtid samla in rapporter om anti-kinesiska inlägg på sociala medieplattformar i västländer. Denna operation, benämnd “Peer Review” av OpenAIs forskare, upptäcktes när en individ involverad i verktygets utveckling använde OpenAIs teknologier för att felsöka delar av dess underliggande kod. (Läs mer på Bloomberg)
Åtgärder mot skadlig användning
Som en reaktion på denna upptäckt har OpenAI stängt av flera konton från Kina och Nordkorea som misstänks ha använt företagets teknologi för skadliga ändamål, inklusive övervakning och opinionspåverkan. Företaget använde sina egna AI-verktyg för att identifiera dessa operationer och vidtog åtgärder för att stoppa dem. Exakta siffror över antalet avstängda konton eller tidsramar för dessa åtgärder har inte offentliggjorts. (Läs mer på Reuters)
Exempel på missbruk av AI-teknologi
Bland de identifierade fallen av missbruk av OpenAIs teknologi ingår:
• Påverkanskampanjer: Användning av ChatGPT för att generera nyhetsartiklar på spanska som kritiserar USA, vilka sedan publicerades i latinamerikanska medier under ett kinesiskt företags namn. (Läs mer på Reuters)
• Bedrägliga jobbansökningar: Skapande av falska CV:n och onlineprofiler med hjälp av AI, med syftet att få anställning i västerländska företag under falska premisser. (Läs mer på Reuters)
• Finansiella bedrägerier: En Kambodja-baserad operation som använde AI för att producera översatt innehåll för sociala medier i syfte att genomföra finansiella bedrägerier. (Läs mer på Reuters)
Reaktioner och framtida åtgärder
Den amerikanska regeringen har uttryckt oro över Kinas användning av AI för repression och spridning av desinformation. OpenAI betonar vikten av att övervaka och förhindra skadlig användning av AI-teknologier för att skydda både individer och samhällen från potentiella hot. (Läs mer på Reuters)
Källförteckning
• Reuters
• Engadget
• Axios
