İnsan ve Yapay Zekâ İş Birliği: Operatörün Yerini Almak Değil, Gözünü Büyütmek

Endüstriyel yapay zekâda insan-makine iş birliği: karar destek tasarımı, otomasyon güveni ve sahiplenme kültürü.

Yazar: CX Teknoloji Uzman Ekibi

Endüstriyel yapay zekâda insan ile sistem arasındaki doğru iş bölümü şudur: sistem sürekli bakar, fark eder ve gerekçesiyle birlikte gösterir; karar ve müdahale insanda kalır. Bu iş birliğinin tutması üç şarta bağlıdır: kişiyi değil koşulu ölçen bir tasarım, güveni koruyan düşük yanlış alarm ve kuralların saha ekibiyle birlikte yazılması.

Sahaya kurulan her analitik sistem bir soruyla karşılanır: "Bizi izleyecek mi?" Bu sorunun cevabı teknik değil, tasarım ve iletişim meselesidir — ve projenin başarısını doğrudan belirler.

Doğru tasarım ilkesi

Sistem kişiyi değil koşulu ölçmeli; rapor birey değil bölge ve süreç düzeyinde olmalı. Amaç ceza değil önleme olduğunda, saha sistemi kendi aracı olarak görür ve ihlal verisini iyileştirme için kullanır.

Pratikte bu ilke tasarımın birkaç yerinde karşılık bulur. Yüz tanıma kullanılmaz; sistem “kim?” sorusuna değil, “ne oldu, nerede?” sorusuna cevap verir. Panelde ihlaller bölge ve vardiya bazında toplanır, kişi listesi üretilmez. Varsayılan kurulumda görüntü tesis içindeki edge sunucuda işlenir ve olay klipleri tanımlı saklama süresi sonunda otomatik silinir. Bu kararlar yalnız etik bir tercih değil; KVKK açısından da ölçülülük ilkesinin sahadaki karşılığıdır.

Operatör ve sistem arasındaki iş bölümü

Kamera yorulmaz, vardiya sonunda dikkati dağılmaz, aynı anda birçok noktaya bakabilir. Buna karşılık bağlamı bilmez: bakım sırasında kapatılan bir bölgeyi, o gün yapılan istisnai bir işi, sahaya yeni gelen bir taşeron ekibini operatör bilir. Doğru iş bölümünde sistem aday olayı gösterir, operatör onaylar ya da reddeder; reddedilen her olay bir sonraki kalibrasyonun verisi olur. Ajan tabanlı mimarilerde bile tekrarlayan kayıt ve bildirim işleri otomatikleşirken yüksek etkili kararlar insan onayında kalır.

Bu iş bölümü operatörün işini de değiştirir. Sürekli ekran izlemek yerine operatör, sistemin öne çıkardığı olayları değerlendirir; dikkat bütün kameralara eşit dağılmak yerine sorunlu anlara yoğunlaşır. İnsanın zayıf olduğu yerde — uzun süreli dikkat — sistem, sistemin zayıf olduğu yerde — bağlam ve yorum — insan devrededir.

Otomasyona güven

İnsan, hata yaptığını gördüğü sisteme güvenmeyi bırakır. Bu yüzden yanlış alarmı düşürmek yalnızca teknik değil psikolojik bir gerekliliktir. Aynı şekilde sistemin neden uyarı verdiğini gösterebilmesi — görüntü, kural, eşik — güvenin temelidir.

Açıklanabilirlik sahada soyut bir kavram değildir. Her uyarının yanında kısa bir klip, tetikleyen kuralın adı, bölge ve güven skoru bulunmalıdır. Operatör neden uyarı aldığını görürse yanlış alarmı da hızla tanır ve geri bildirir. Olay güven skoru, düşük güvenli olayların doğrudan uyarı yerine incelemeye yönlendirilmesine imkân verir; böylece operatörün önüne gelen uyarılar daha seçici olur.

Güvenin bir de zaman boyutu var: ilk dönemde yaşanan yanlış alarmlar, sistem sonradan iyileşse bile hatırlanır. Bu yüzden uyarıların sahaya açılmasını, kalibrasyon tamamlanıp yanlış alarm kabul edilebilir düzeye indikten sonra yapmak önemlidir.

Sahiplenme

En başarılı kurulumlarımızın ortak özelliği, kuralları saha ekibiyle birlikte çizmemiz. Kendi tanımladığı kuralı kimse sabote etmez. Yapay zekâ, operatörün yerine karar veren değil; onun göremediğini gösteren bir meslektaş olarak konumlandığında işe yarıyor.

Bu birlikte çizim, kurulum sürecinin kural tasarımı adımında somutlaşır: bölgeler saha ekibiyle birlikte çizilir, eşikler ve doğrulama süreleri onlarla konuşulur. Sahada en sık duyduğumuz itirazlar — “bu alan bakımda kapalı”, “forklift burada zaten yavaş geçer” — kuralın içine yazılır. Canlıya aldıktan sonra da aynı kanal açık kalmalı: operatör yanlış bulduğu uyarıyı kolayca işaretleyebilmeli ve bu işaretin bir sonuca bağlandığını görebilmelidir.

Sahiplenmenin bir işareti de raporların kim tarafından okunduğudur. Rapor yalnız yönetime gidiyorsa saha sistemi bir denetim aracı olarak görür. Bölge bazındaki sonuçlar vardiya toplantılarında saha ekibiyle birlikte konuşulduğunda veri ortak bir iyileştirme dili hâline gelir ve düzelen noktalar ekibin kendi başarısı olarak görülür.

Tasarımda sık yapılan hatalar

Sahada benimsenmeyen sistemlerde birkaç ortak tasarım hatası görüyoruz. Birincisi, her uyarının aynı anda hem operatöre hem yöneticisine gitmesi: operatör kendini denetleniyor hisseder ve uyarıyı yardım değil suçlama olarak algılar. İkincisi, ihlal verisinin kişisel performans değerlendirmesine taşınması; bu bir kez olduğunda saha, sistemle birlikte çalışmak yerine kameranın görmediği noktaları öğrenir. Üçüncüsü, yanlış alarm geri bildiriminin hiçbir sonuca bağlanmaması: operatör birkaç kez işaretleyip değişiklik görmezse işaretlemeyi bırakır. Dördüncüsü, panelin yalnız ihlal göstermesi; düzelen bölgeleri ve azalan olayları da göstermek sahanın emeğini görünür kılar.

“Bizi izleyecek mi?” sorusuna nasıl cevap verilir?

Kurulumdan önce çalışanlarla yapılacak kısa bir bilgilendirme, sonraki birçok sorunu önler. Anlatılması gerekenler basittir: sistem neyi tespit ediyor, neyi etmiyor; kayıtlar ne kadar saklanıyor ve kim erişebiliyor; veriler hangi amaçla kullanılacak, hangi amaçla kullanılmayacak. Bu çerçevenin yazılı olması, çalışan temsilcileriyle paylaşılması ve söylenenle sistemin gerçekte yaptığının tutarlı olması güveni belirler.

Bilgilendirme bir kez yapılıp bırakılmamalı; kurallar değiştiğinde ya da yeni bir kamera eklendiğinde çalışanlar yeniden bilgilendirilir. Bu bilgilendirmeyi yönetimden birinin değil, İSG uzmanının ya da saha şefinin yapması çoğu zaman daha iyi karşılanır.

Mevzuat tarafı

Avrupa Birliği'nin yapay zekâ düzenlemesi AI Act, yüksek riskli kabul edilen yapay zekâ sistemleri için insan gözetimini açık bir gereklilik olarak tanımlıyor; Türkiye'de kişisel veriler açısından temel çerçeveyi KVKK çiziyor. Hangi sistemin hangi risk sınıfına girdiği kullanım amacına göre değişir ve kurumun hukuk birimiyle değerlendirilmelidir. Genel eğilim nettir: karar destek olarak tasarlanmış, gerekçesini gösteren ve insan onayını koruyan sistemler hem mevzuata hem sahaya daha kolay uyum sağlar. Ayrıntılar için AI Act yazımıza bakabilirsiniz; burada yazılanlar hukuki danışmanlık yerine geçmez.

Sık sorulan sorular

Sistem çalışanların bireysel performansını ölçüyor mu?

Tasarım ilkemiz kişiyi değil koşulu ölçmektir. Yüz tanıma kullanılmaz; raporlar birey değil bölge, vardiya ve süreç düzeyinde üretilir. Amaç ceza değil önlemedir: riskin hangi bölgede yoğunlaştığını, hangi süreç adımının ihlal ürettiğini göstermek. Bu çerçevenin kurulumdan önce çalışanlarla yazılı olarak paylaşılmasını öneriyoruz.

Nihai kararı kim verir?

İnsan. Sistem olayı tespit eder ve klip, kural ve güven skoruyla birlikte gösterir; müdahale ve karar operatörde ya da sorumlu yöneticidedir. Kayıt açma ve bildirim gibi tekrarlayan işler otomatikleştirilebilir, ancak yüksek etkili aksiyonlar insan onayında tutulur. Bu yaklaşım, yapay zekâ sistemlerinde insan gözetimini öne çıkaran mevzuat eğilimiyle de uyumludur.

Operatörler sistemi benimsemezse ne olur, nasıl önlenir?

Benimsenmeyen sistemde uyarılar görmezden gelinir ve yatırım değer üretmez. Bunu önleyen üç şey var: yanlış alarmın kalibrasyonla düşürülmesi, her uyarının gerekçesinin — klip, kural, eşik — görünür olması ve kuralların saha ekibiyle birlikte çizilmesi. Operatörün yanlış bulduğu uyarıyı işaretleyebilmesi ve bu geri bildirimin sonuç üretmesi de güveni kalıcı kılar.

Kurulumdan önce çalışanlara ne anlatılmalı?

Sistemin neyi tespit ettiği ve etmediği, yüz tanıma kullanılmadığı, raporların bölge ve süreç düzeyinde tutulduğu, kayıtların ne kadar süre saklandığı ve kimin erişebildiği, verilerin hangi amaçla kullanılacağı. KVKK kapsamındaki aydınlatma yükümlülüğü ayrıca kurumun hukuk birimiyle ele alınmalıdır. Bu genel bilgidir, hukuki danışmanlık yerine geçmez.