OpenAI-ը արգելել է AI-ին հիշատակել աղավնիներին, ջրարջերին եւ գոբլիններին

OpenAI-ը անսովոր սահմանափակում է մտցրել իր մի քանի գործիքների, այդ թվում՝ կոդ գրելու համար օգտագործվող Codex-ի համակարգային հրահանգներում: 

Այժմ արհեստական բանականությանը խստիվ արգելվում է հիշատակել գոբլիններ, գրեմլիններ, ջրարջեր, տրոլներ, օգրեր եւ նույնիսկ աղավնիներ՝ առանց որեւէ հիմնավոր պատճառի: Արհեստական բանականության մոդելները սկսել են անտեղի օգտագործել այս տերմինները՝ շատ ծրագրավորողների աշխատանքը վերածելով ֆանտաստիկ ժանրի որոնման:

Մշակողները հայտնաբերել են, որ արհեստական բանականության գործակալներ օգտագործելիս մոդելները երբեմն ցուցաբերում են տարօրինակ վարքագիծ: Սա հատկապես ակնհայտ է OpenClaw համակարգչային ավտոմատացման գործիքում, որն OpenAI-ը ձեռք է բերել փետրվարին: 

Օգտատերերը նկատել են, որ նեյրոնային ցանցը բառացիորեն կենտրոնացած է այս կենդանիների ու առասպելական արարածների վրա՝ տեխնիկական գործընթացները նկարագրելիս: 

Codex համակարգի ձեռնարկն այժմ պարունակում է պահանջ՝ երբեք չխոսելու գոբլինների, գրեմլինների, ջրարջերի, տրոլների, օգրերի, աղավնիների կամ այլ կենդանիների ու արարածների մասին, եթե դա բացարձակապես եւ հստակորեն չի վերաբերում օգտատիրոջ հարցմանը:

Նույնիսկ ընկերության գործադիր տնօրեն Սեմ Ալթմանն իր կարծիքն արտահայտել։ Նա հրապարակեց ChatGPT-ին ուղղված հումորային խնդրանքի էկրանի նկար, որում նա հրահանգում էր սկսել GPT-6-ի մարզումը՝ օգտագործելով ամբողջ առկա հաշվողական կլաստերը եւ ավելացնելով «ավելի շատ գոբլիններ»։