Ketika Anda melakukan percakapan dengan chatbot, Anda ingin mengingat interaksi sebelumnya dalam percakapan ini. Bagaimanapun, inilah yang dimaksud dengan percakapan.

Ketika Anda menggunakan AI generatif (Genai) untuk melakukan tugas analisis di luar satu respons terhadap undangan, Anda ingin menjaga konteks petunjuk sebelumnya dalam tugas ini.

Ketika sebuah perusahaan berharap bahwa AI mengotomatiskan alur kerja – urutan tahapan dari waktu ke waktu, dengan entri manusia di sepanjang jalan – Anda ingin AI menjaga jejak tempat di mana setiap pengguna berada dalam instance workflownya.

Contoh -contoh ini adalah semua situasi di mana kami berharap AI kami mempertahankan Informasi Negara – Beberapa data bertahan yang mempertahankan jejak interaksi atau tugas otomatis dari waktu ke waktu.

Sekarang agen AI ada di sini, namun, contoh -contoh manajemen negara ini tidak cukup jauh.

Bagian yang hilang: kami ingin AI mempelajari. Kami ingin agen kami menjadi lebih pintar dari waktu ke waktu.

Tiba -tiba, semua pendekatan tradisional kami untuk mengelola keadaan interaksi dalam lingkungan komputer terdistribusi gagal.

Beri aku kue

Setiap generasi teknologi harus menghadapi TIMUR TI menantang bagaimana mengelola negara.

Pendekatan default, menulis informasi status untuk setiap pengguna dan setiap interaksi dalam database server, bekerja dengan cukup baik ke suatu titik.

Namun, melacak informasi status di server di suatu tempat tidak berbaring. Akhirnya, aplikasi dengan kondisi telah mengalami depresi.

Di sisi lain, interaksi tanpa kewarganegaraan menawarkan skala besar. Ketika bagian -bagian di bagian belakang, bagian sisi server dari aplikasi kami tidak harus melacak pengguna atau permintaan mereka, kemudian menempatkannya pada skala adalah latihan sederhana.

Sayangnya, begitu banyak hal yang mungkin ingin kita lakukan memaksa kita untuk mengikuti sesuatu dari waktu ke waktu, yang membutuhkan manajemen negara.

Kami harus memahami ini untuk web. Kemudian, kami harus memahaminya untuk cloud – yang akhirnya berarti bahwa kami harus memahaminya sekali lagi untuk layanan microser.

Sekarang agen AI ada di sana. Coba tebak? Kita harus lagi menentukan manajemen negara.

Layanan microser di penyelamatan?

Sebagian besar implementasi agen AI bekerja dalam layanan mikro. Anda mungkin berpikir bahwa layanan mikro akan menyelesaikan masalah mengelola keadaan AI.

Layanan mikro secara intrinsik secara stateless, yang memungkinkan mereka untuk berevolusi secara besar -besaran dan spektakuler, karena setiap layanan mikro dapat menanggapi permintaan apa pun serta layanan mikro identik lainnya.

Dengan demikian, kewarganegaraan memungkinkan layanan mikro secara intrinsik fana dan elastis, sifat -sifat yang tidak diragukan lagi membuat cloud komputasi asli seperti sekarang ini.

Mengelola negara dengan layanan mikro tanpa membatasi skalabilitas mereka dan memperlambat semuanya adalah salah satu tantangan arsitektur paling penting dari komputer cloud asli.

Kubernetes mengelola manajemen negara dengan menambahkan a lapisan abstraksi. SectSsets adalah objek yang memungkinkan layanan microse untuk mempertahankan abstraksi informasi status dari tingkat kegigihan.

Layanan mikro dengan kondisi harus selalu menulis informasi keadaan dalam database di suatu tempat, tetapi dengan statefulset, setiap layanan microser tidak perlu khawatir tentang detail.

Infrastruktur Kubernetes mengelola skalabilitas di balik layar, serta pengelolaan konsistensi data yang selalu menjadi tantangan membangun infrastruktur kegigihan yang dapat diskalakan secara besar -besaran.

Karena agen IA umumnya dieksekusi sebagai layanan mikro, dapatkah cloud IT asli memenuhi tantangan manajemen negara mereka?

Tidak. Sesuatu masih hilang.

Agen Agen Enigma

Banyak aplikasi Genai hari ini adalah tanpa kewarganegaraan – memberi mereka prompt, dapatkan jawaban, maka mereka melupakan segalanya tentang Anda dan apa yang Anda tanyakan sebelumnya.

Cookie (atau umumnya, mempertahankan status pada pelanggan) dan layanan mikro (pemeliharaan negara di server) keduanya diperlukan untuk mengelola keadaan AI. Namun, mereka tidak cukup.

Dimensi pertama: melacak apa yang dilakukan setiap pengguna. Mempertahankan negara pada pelanggan dapat mengelola ini.

Misalnya, chatbot yang melacak setiap percakapan dengan setiap pengguna. Poin bonus jika pengguna dapat berbicara setelah meninggalkan chatbot dan kembali lagi nanti.

Dimensi kedua: menjaga jejak interaksi antara pengguna. Sekarang kita dapat menggunakan Microservices dengan kondisi.

Misalnya, agen AI dapat memperbarui aplikasi CRM. Orang lain, dan pada kenyataannya agen AI lainnya, akan melihat pembaruan ini dan akan dapat membuat keputusan sesuai dengan informasi baru.

Komputer cloud asli mengelola situasi multi-pengguna seperti itu. Dalam abstraksi tingkat kegigihan (dalam hal ini, penyimpanan data di belakang aplikasi CRM), infrastruktur Kubernetes dapat berkembang.

Yang kurang dalam cerita ini adalah dimensi ketiga: agen AI yang bisa mempelajari.

Chatbot, misalnya, bisa menjadi lebih cerdas dari waktu ke waktu tentang preferensi pengguna tertentu. Chatbot perjalanan idealnya harus memahami hal -hal sederhana seolah -olah pengguna lebih memilih kursi kursi atau jendela – tetapi juga harus mempelajari preferensi yang lebih halus dan kompleks khusus untuk setiap pengguna atau hubungan antara pengguna (misalnya, preferensi pasangan Anda serta milik Anda saat Anda bepergian bersama).

Agen AI juga harus menjadi lebih cerdas dari waktu ke waktu pada semua interaksi kolaboratif yang dia minta untuk didukung. Perbarui rekaman CRM yang sederhana, misalnya, bukanlah tugas yang sangat berharga bagi agen AI. Memahami cara terbaik untuk memanfaatkan CRM untuk mengoptimalkan upaya penjualan, tugas yang memaksa agen untuk belajar dari waktu ke waktu, adalah cerita lain.

Mengapa manajemen negara agen agen AI berbeda

Perilaku agen AI (atau aplikasi AI lainnya pada AI, apalagi) tergantung pada data pelatihannya. Ubah data yang mendasarinya dan Anda mengubah perilaku agen.

Agar agen AI dapat belajar, mereka harus mengembalikan informasi dari interaksi pengguna saat ini ke data pelatihan, sehingga memodifikasi perilaku agen dengan setiap iterasi.

Dengan kata lain, modifikasi data pelatihan memodifikasi keadaan agen. Prompt dan informasi kontekstual lainnya tentang perilaku agen semuanya menjadi data pelatihan untuk setiap agen yang mampu belajar dari waktu ke waktu.

Perilaku belajar berulang ini – dan oleh karena itu tantangan pelatihan pelatihan berdasarkan pelatihan – khusus untuk agensi AI karena pelatihan seperti itu akan membuat agen AI lebih pintar dari waktu ke waktu.

Namun, kita harus selalu mengelola jika kita ingin otoritas agen individu belajar tentang preferensi pengguna individu, atau untuk belajar dari semua interaksi antara set pengguna, bahkan jika mereka berinteraksi dengan badan agen AI yang berbeda.

Idealnya, kami ingin campuran dari dua agen yang menjadi lebih pintar untuk berinteraksi dengan banyak pengguna sambil menjadi secara bersamaan dari setiap rangkaian interaksi dengan masing -masing individu, sehingga menjadi dipersonalisasi.

Tantangan yang belum terselesaikan dalam pengelolaan negara bagian AI

Lalu, bagaimana kita menerima tantangan manajemen negara yang kompleks ini, mengingat data pelatihan itu sendiri mewakili keadaan masing -masing agen?

Belum ada yang menyelesaikan masalah ini (sepengetahuan saya) – tetapi jelas bahwa orang -orang setidaknya telah melihat masalah yang mendasarinya.

Kami telah melihat masalah ini muncul sebagai kiasan dalam fiksi. Ingat filmnya DiaDi mana Joaquin Phoenix yang malang jatuh cinta dengan agen AI “perempuan”?

Agen belajar dari waktu ke waktu dengan cara yang sangat pribadi khusus untuk karakter Phoenix. Akhirnya, “dia” menjadi orang yang unik, hanya untuk (peringatan spoiler!) Untuk direset ke pabriknya “” Bunuh “-nya.

Kemana perginya fiksi, segera mewujudkan kenyataan. Informasi apa yang kami ingin agen AI ikuti? Karena kita ingin mereka belajar, ketika kita ingin mereka belajar, dan kapan? Dan bagaimana kita memutuskan?

Kemudian, tentu saja, kita harus memahami bagaimana membangun teknologi yang diperlukan untuk mendukung keadaan yang terus berkembang dari masing -masing agen AI kita – sambil memungkinkan mereka untuk mengatur tanpa merusak bank.