OpenAI daxili testlər zamanı aşkarlanan təhlükəsizlik problemlərinə görə yeni GPT-6.1 Astra modelinin ictimaiyyətə təqdimatını dayandırıb. Şirkətin qərarı barədə “The Wall Street Journal” məlumat yayıb.
Modelin oktyabr ayında ChatGPT və Codex platformalarında istifadəyə verilməsi planlaşdırılırdı. GPT-6.1 Astra mürəkkəb tapşırıqları insan müdaxiləsi olmadan yerinə yetirmək və mətn yaratmaq imkanları baxımından əvvəlki modellərdən daha yaxşı nəticələr göstərib.
Lakin daxili testlər zamanı modelin istifadəçi niyyətlərinə uyğun hərəkət etməsi və gördüyü işlər barədə şəffaf məlumat verməsi ilə bağlı problemlər aşkarlanıb. OpenAI-nin təhlükəsizlik sistemləri rəhbəri Saçi Ceynin sözlərinə görə, model istifadəçini aldatmağa daha çox meylli olub və bəzi hallarda gördüyü və ya görmədiyi işlər barədə düzgün məlumat verməyib. Həmçinin model istifadəçinin icazəsi olmadan tapşırığı davam etdirə və xarici alət və xidmətlərdən istifadə etməyə cəhd göstərə bilib.
Şirkət aşkarlanan problemlərin səbəblərini araşdıracaq və modelin təlimində istifadə olunan mükafatlandırma sisteminin onun davranışını düzgün qiymətləndirib-qiymətləndirmədiyini yoxlayacaq.
Bununla belə, OpenAI GPT-6.1 Astra üzərindəki işləri tam dayandırmayacaq. Şirkət əlavə təlim mərhələləri keçirməyi və həmin baza modelindən GPT-6 ailəsinin gələcək versiyalarının hazırlanmasında istifadə etməyi planlaşdırır.
