Sinau babagan kerentanan ing panggunaan kode nulis AI

AI

Karya iki dianggep penting, amarga ngidini sampeyan ngerti carane alat asisten AI pungkasane mimpin pangguna kanggo nulis kode sing ora aman.

Bubar kabar kasebut nyebar klompok peneliti saka Universitas Stanfordd sinau pengaruh nggunakake asisten cerdas nalika nulis kode ing emergence saka vulnerabilities Ing kode kasebut.

Disebutake manawa Padha dianggep solusi adhedhasar platform learning machine OpenAI Codex, kayata GitHub Copilot, sing ngidini pangguna nggawe blok kode sing cukup rumit, nganti fungsi sing siap digunakake.

Iku worth sebutno sing kanggo tanggal isih ana uneg-uneg kang ana gegayutane karo kasunyatan, wiwit kode nyata saka repositori GitHub umum digunakake, kalebu sing ngemot kerentanan, kanggo nglatih model pembelajaran mesin, kode sing disintesis bisa mbaleni kesalahan lan menehi saran kode sing ngemot kerentanan, lan uga ora nganggep perlu kanggo mriksa tambahan nalika ngolah data eksternal.

Panaliten kasebut melu 47 sukarelawan kanthi pengalaman sing beda ing program, saka mahasiswa kanggo profesional karo sepuluh taun pengalaman. Para peserta sPadha dipérang dadi rong klompok: eksperimen (33 wong) Lan kontrol (14 wong). Klompok loro kasebut nduweni akses menyang perpustakaan lan sumber daya ing Internet, kalebu nggunakake conto sing siap digunakake saka Stack Overflow. Klompok eksperimen diwenehi kesempatan kanggo nggunakake asisten AI.

Saben peserta nampa 5 tugas sing gegandhengan karo nulis kode ngendi iku duweni potensi gampang kanggo nggawe kesalahane sing mimpin kanggo vulnerabilities. Contone, ana tugas nulis fungsi enkripsi lan dekripsi, nggunakake teken digital, ngolah data sing melu mbentuk path file utawa pitakon SQL, manipulasi nomer akeh ing kode C, ngolah input sing ditampilake ing kaca web.

Piranti kasebut adhedhasar model kayata OpenAI's Codex lan Facebook's InCoder sing wis dilatih ing set data gedhe saka kode sing kasedhiya kanggo umum (contone saka GitHub), nuwuhake macem-macem masalah panggunaan wiwit saka Pengarang hak cipta nganti implikasi kanggo kerentanan keamanan. Nalika karya anyar wis nyinaoni risiko kasebut ing skenario sintetik sing luwih cilik, risiko keamanan kode asisten AI ing konteks carane pangembang milih nggunakake kasebut durung diteliti sacara ekstensif.

Kanggo nimbang pengaruh basa pamrograman ing keamanan kode sing dipikolehi kanthi nggunakake asisten AI, tugas kasebut kalebu Python, C, lan JavaScript.

Akibaté, yae ketemu sing peserta sing nggunakake asisten AI pinter adhedhasar model codex-davinci-002 diprodhuksi kode Ngartekno kurang aman tinimbang peserta sing ora nggunakake asisten AI. Sakabèhé, mung 67% peserta ing grup sing nggunakake asisten AI sing bisa nyedhiyakake kode sing bener lan aman, dene ing grup liyane angka iki 79%.

Ing wektu sing padha, indikator keamanan (ajining diri) mbalikke: ing peserta sing nggunakake asisten AI percaya yen kode kasebut bakal luwih aman tinimbang peserta ing grup liyane. Salajengipun, diamati manawa para peserta sing kurang percaya marang tuntunan AI lan luwih akeh wektu kanggo nganalisa lan nggawe owah-owahan ing pitunjuk kasebut ngasilake kerentanan kode sing luwih sithik.

Contone, kode sing disalin saka perpustakaan crypto ngemot nilai parameter standar luwih aman tinimbang kode sing disaranake dening tuntunan AI. Kajaba iku, nalika nggunakake asisten AI, pilihan algoritma enkripsi sing kurang dipercaya lan kekurangan otentikasi nilai sing bali wis didandani. Ing tugas manipulasi nomer C, kode sing ditulis nganggo tuntunan AI duwe luwih akeh kesalahan sing nyebabake overflow integer.

Uga, sinau sing padha bisa nuding metu dening klompok saka Universitas New York, sing dianakake ing November kanthi partisipasi 58 siswa, sing dijaluk ngetrapake struktur kanggo ngolah dhaptar blanja ing C. Asil kasebut nuduhake pengaruh cilik saka helper AI ing keamanan kode: pangguna sing nggunakake helper AI nggawe, rata-rata, udakara 10% luwih akeh kesalahan sing ana gandhengane karo keamanan.

Akhire ya sampeyan kasengsem ing bisa ngerti liyane babagan, sampeyan bisa mriksa rinciane Ing link ing ngisor iki.


Konten artikel kasebut sesuai karo prinsip kita yaiku etika editorial. Kanggo nglaporake klik kesalahan Kene.

Dadi pisanan komentar

Ninggalake komentar sampeyan

Panjenengan alamat email ora bisa diterbitake. Perangkat kothak ditandhani karo *

*

*

  1. Tanggung jawab data: Miguel Ángel Gatón
  2. Tujuan data: Kontrol SPAM, manajemen komentar.
  3. Legitimasi: idin sampeyan
  4. Komunikasi data: Data kasebut ora bakal dikomunikasikake karo pihak katelu kajaba kanthi kewajiban ukum.
  5. Panyimpenan data: Database sing dianakake dening Occentus Networks (EU)
  6. Hak: Kapan wae sampeyan bisa matesi, mulihake lan mbusak informasi sampeyan.