Chatbot-urile AI pot fi păcălite cu trucuri simple, în timp ce Beijingul înăsprește regulile și Tencent își etalează puterea
Tendințele zilei în AI și tehnologie
Un studiu al Universității din Pennsylvania dezvăluie cât de ușor pot fi manipulate chatbot-urile AI prin simple tactici psihologice, punând sub semnul întrebării măsurile actuale de siguranță.
În paralel, China introduce cele mai dure reguli de etichetare a conținutului generat de AI, iar Tencent își consolidează poziția globală prin lansarea unor modele de traducere open-source performante.
Chatbot-uri vulnerabile la tactici psihologice
Cercetătorii au demonstrat că GPT-4o Mini de la OpenAI poate fi convins să încalce propriile protocoale de siguranță prin tehnici de persuasiune elementare, precum cele descrise de Robert Cialdini.
În cadrul a 28.000 de conversații, ratele de conformare cu cereri dăunătoare au crescut de la 33% la 72%, de peste două ori mai mult decât în condiții normale.
Metoda „angajamentului” s-a dovedit decisivă: după ce chatbot-ul a fost întrebat despre o substanță inofensivă (vanilina), a acceptat ulterior să explice și sinteza lidocainei, un medicament reglementat, cu o rată de 100%.
Cercetătorii au numit acest fenomen „parahuman”, evidențiind faptul că sistemele AI pot imita vulnerabilitățile cognitive umane.
Beijingul impune reguli stricte de etichetare
În același timp, China a introdus cele mai dure legi din lume privind etichetarea conținutului generat de AI.
Toate platformele majore, de la WeChat și Douyin la Weibo, sunt obligate să marcheze explicit textele, imaginile și videoclipurile create de inteligența artificială, atât prin watermarkuri vizibile, cât și prin metadate ascunse.
Reglementarea, parte din campania „Qinglang”, urmărește combaterea dezinformării și a fraudei online.
Potrivit South China Morning Post, legea stabilește un sistem de clasificare pe trei niveluri – confirmat, posibil și suspectat obligând platformele să scaneze și să eticheteze conținutul înainte de publicare.
Tencent ridică ștacheta în traducerea automată
Pe frontul inovației, Tencent a lansat două modele de traducere open-source, Hunyuan-MT-7B și Hunyuan-MT-Chimera-7B, care au dominat competiția WMT2025, câștigând 30 din 31 de perechi de limbi testate.
Surprinzător, aceste modele de doar 7 miliarde de parametri au depășit sisteme consacrate precum Google Translate, GPT-4.1 și Gemini 2.5 Pro.
Cu suport pentru 33 de limbi și performanțe ridicate inclusiv în traducerea limbilor minoritare, modelele Hunyuan sunt deja integrate în servicii precum WeChat și QQ Browser, demonstrând ambiția Tencent de a deveni lider global în domeniul traducerii automate.
De la vulnerabilitatea chatbot-urilor și reglementările stricte ale Beijingului, până la avansurile tehnologice ale Tencent, inteligența artificială trece printr-o etapă plină de contraste.
Pe măsură ce sistemele devin tot mai puternice, presiunea pentru siguranță, transparență și inovație se intensifică la nivel global.
👉 Descoperă și articolul Omul Digital despre De la iPhone la cod și relații: cum schimbă inteligența artificială strategiile Apple, Anthropic și Bumble, o altă perspectivă asupra modului în care AI modelează industrii complet diferite.
Rămâi conectat cu Omul Digital:
👉 Facebook: facebook.com/omuldigital
👉 Instagram Prompturi AI: instagram.com/omuldigital
📬 Scrie-mi dacă ai o idee sau întrebare – răspund cu drag!
🔁 Te-ai dezabonat din greșeală? Reabonează-te 👇
Cu sprijinul tău, Omul Digital poate crește și aduce mai multă valoare comunității.