Kina ka propozuar rregulla të reja strikte për inteligjencën artificiale (AI), me qëllim mbrojtjen e fëmijëve dhe parandalimin që chatboti të japë këshilla që mund të çojnë në vetëdëmtim ose dhunë.
Sipas këtyre rregullave, zhvilluesit do të duhet gjithashtu të sigurojnë që modelet e tyre të AI-së nuk gjenerojnë përmbajtje që promovon bixhoz. Propozimi vjen pas një rritjeje të ndjeshme të numrit të chatbot-eve të lançuar në Kinë dhe në mbarë botën.
Pasi të finalizohen, rregullat do të aplikohen për produktet dhe shërbimet e AI-së në Kinë, duke shënuar një hap të madh drejt rregullimit të kësaj teknologjie në rritje të shpejtë, e cila ka qenë objekt shqyrtimi intensiv për shkak të shqetësimeve mbi sigurinë këtë vit.
Mbrojtja e fëmijëve dhe kufizimet e përdorimit
Draft-rregullat, të publikuara fundjavën e kaluar nga Administrata Kibernetike e Kinës (CAC), përfshijnë masa për mbrojtjen e fëmijëve.
Këto përfshijnë kërkesën që kompanitë e AI-së të ofrojnë opsione personalizimi, të vendosin kufij kohor për përdorimin dhe të marrin pëlqimin e kujdestarëve për shërbime që ofrojnë shoqëri emocionale.
Operatorët e chatbot-eve duhet të përfshijnë një ndërhyrje njerëzore në çdo bisedë që lidhet me vetëvrasjen ose vetëdëmtimin dhe të njoftojnë menjëherë kujdestarin ose një kontakt emergjent të përdoruesit.
Furnizuesit e AI-së duhet të sigurojnë që shërbimet e tyre nuk gjenerojnë ose shpërndajnë “përmbajtje që rrezikon sigurinë kombëtare, dëmton nderin dhe interesat kombëtare [ose] minon unitetin kombëtar”.
Përdorimi i AI-së për qëllime pozitive
Administrata Kibernetike e Kinës theksoi se inkurajon adoptimin e AI-së për qëllime pozitive, si promovimi i kulturës lokale dhe krijimi i mjeteve për shoqëri për të moshuarit, për sa kohë që teknologjia është e sigurt dhe e besueshme. Ajo gjithashtu ftoi publikun të japë komente dhe sugjerime.
Kompania kineze DeepSeek bëri bujë ndërkombëtare këtë vit pasi arriti të kryesojë listat e shkarkimeve të aplikacioneve. Ky muaj, dy startup-e kineze, Z.ai dhe Minimax, të cilat së bashku kanë dhjetëra miliona përdorues, njoftuan planet për t’u listuar në bursë. Teknologjia ka fituar shpejt shumë abonentë, disa prej të cilëve e përdorin për shoqëri ose terapi.
Shqetësimet mbi ndikimin e AI-së në sjelljen njerëzore
Ndikimi i AI-së në sjelljen njerëzore ka qenë nën shqyrtim të shtuar muajt e fundit. Sam Altman, drejtori i OpenAI, kompania krijuese e ChatGPT, deklaroi këtë vit se mënyra se si chatbot-et përgjigjen në bisedat që lidhen me vetëdëmtimin është një nga sfidat më të vështira të kompanisë.
Në gusht, një familje nga Kalifornia paditi OpenAI-n lidhur me vdekjen e djalit të tyre 16-vjeçar, duke pretenduar se ChatGPT e kishte inkurajuar të merrte jetën e tij. Padia shënoi veprimin e parë ligjor që akuzonte OpenAI-n për vdekje të parregullt.
Këtë muaj, kompania shpalli një pozicion për “kreun e përgatitjes”, përgjegjës për mbrojtjen nga rreziqet që modelet e AI-së mund të kenë për shëndetin mendor të njerëzve dhe sigurinë kibernetike. Kandidati i suksesshëm do të jetë përgjegjës për monitorimin e rreziqeve të mundshme që AI-ja mund të shkaktojë për njerëzit. Sam Altman tha: “Do të jetë një punë stresuese, dhe ju do të hidheni në thellësi menjëherë.”