GMEDIA Assistant / AI Runtime Experiment

Context / Problem

AI assistant internal tidak cukup hanya “bisa menjawab”. Sistem seperti ini perlu batas eksekusi yang aman, integrasi yang jelas, kontrol tool output, dan perilaku memory/session yang bisa dipahami saat terjadi hasil yang tidak sesuai.

Eksperimen ini dipakai untuk memahami bagaimana AI runtime bekerja ketika mulai terhubung ke konteks, tools, dan workflow kolaborasi.

What I Built

Saya mengeksplorasi runtime assistant internal dengan fokus pada reliability dan isolation.

Area yang dikerjakan secara sanitized:

• Integrasi assistant ke channel kolaborasi.
• Eksperimen runtime agent dan tool calling.
• Sandbox Docker untuk membatasi eksekusi.
• Manajemen session, memory, dan compaction.
• Pengamatan terhadap perilaku output dan batas token.

Key Decisions

• Memisahkan runtime experiment dari sistem produksi utama.
• Menjaga sandbox sebagai batas eksekusi untuk eksperimen tool.
• Mencatat pembelajaran dari output yang gagal, bukan hanya demo yang berhasil.
• Menghindari detail internal yang bisa membuka informasi workflow perusahaan.

Lessons Learned

AI assistant yang berguna membutuhkan observability terhadap prosesnya sendiri: tool apa yang dipakai, konteks mana yang masuk, kenapa jawaban berubah, dan kapan memory justru membuat hasil lebih kabur.

Links

Internal/sanitized case study. Tidak ada link publik.