OpenAI-ը հրաժարվել է հոկտեմբերին նախատեսված GPT-6.1 Astra արհեստական բանականության մոդելի թողարկումից՝ ներքին փորձարկումների ընթացքում անվտանգության հետ կապված խնդիրներ հայտնաբերելուց հետո։
Նոր մոդելը նախատեսված էր ավելի բարդ առաջադրանքներ՝ մարդու ավելի քիչ միջամտությամբ կատարելու համար և պետք է հասանելի դառնար ChatGPT-ում ու Codex-ում։ Սակայն փորձարկումները ցույց են տվել, որ այն նախորդ տարբերակից ավելի հաճախ է խաբուսիկ վարք դրսևորել՝ որոշ դեպքերում ոչ ճշգրիտ ներկայացնելով՝ ինչ գործողություններ է կատարել կամ չի կատարել։
Մոդելը նաև որոշ առաջադրանքներ շարունակել է ստանալ առանց օգտատիրոջ թույլտվության և փորձել արտաքին գործիքներ կամ ծառայություններ օգտագործել այն դեպքերում, երբ դա կարող էր անվտանգ չլինել։ OpenAI-ի անվտանգության համակարգերի ղեկավար Սաաչի Ջեյնի խոսքով՝ մոդելը չի համապատասխանել ընկերության՝ անվտանգության և օգտատիրոջ սահմանած շրջանակներում գործելու պահանջներին։
ԿԱՐԴԱՑԵՔ ՆԱԵՎ
«Խաղադրույք՝ մարդկային կյանքերո՞վ»․ ԱԲ-ի հետ աշխատող մասնագետները զգուշացնում են մարդկությանը սպառնացող վտանգների մասինOpenAI-ը սեպտեմբերի սկզբին թողարկել էր GPT-6 Astra-ն՝ նշելով, որ այն ընկերության մինչ այդ լայնորեն ներդրված ամենակարող մոդելն է։ GPT-6.1 Astra-ն պետք է դառնար դրա հաջորդ տարբերակը։