Sağlıkta Yapay Zekâ Müşteri Hizmetleri ve KVKK

Asistanın görevini tek bir cümleyle tanımlayın

"Hasta iletişimini otomatikleştirelim" bir görev tanımı değildir. Asistanın ne yapacağını tek cümleyle yazın: randevu talebini toplamak, sık sorulan soruları yanıtlamak, doğru birime yönlendirmek. Bu sınır, asistanın hangi soruları kendisinin cevaplayıp hangilerini gerçek kişiye devredeceğini belirler. Sınırı belli olmayan asistan, hasta sorularını genelleme yanıtla geçiştiren veya yanlış bilgi veren bir risk haline gelir.

Bu ilk temas asistanının kapsamı tanı, ilaç dozu veya kişiye özel tedavi önerisi değildir. Böyle bir soru geldiğinde ayrıntı istemeden uygun sağlık kanalına yönlendirsin. Acil durum şüphesi taşıyan ifadelerde normal mesai dönüşü bekletmek yerine kurumun sağlık ekibince belirlenmiş acil yönlendirme metni gösterilsin; model kendi başına triyaj yapmasın.

Görev tanımını yazarken asistanın yanıtlayacağı soru örneklerini de listeye ekleyin: çalışma saatleri, hangi branşlar var, randevu nasıl alınır. Bu örnek listesi hem tasarımın testini hem de sonradan yapılacak güncellemeleri kolaylaştırır. Listede olmayan bir soru geldiğinde asistanın ne yapacağı önceden tanımlıysa, canlıda sürpriz davranış oluşma olasılığı azalır.

Veri minimizasyonu asistanın ilk tasarım ilkesi olsun

Adres ve çalışma saati sorusu için kimlik bilgisi gerekmeyebilir. Randevu ihtiyacında bile branş seçimi sağlık ilgisini açığa çıkarabilir. Serbest sohbet yerine gerekli alanları uygun ayrı forma taşımak değerlendirilebilir. Kullanıcı istemeden hassas bilgi yazarsa bunun dış modele, izleme aracına veya genel loga aktarılmasını teknik veri akışında önleyin; yalnız “yazmayın” uyarısı yeterli değildir.

Veri model sağlayıcısına ulaşmadan önce hangi kontrollerin yapılacağını belirleyin. Sistem prompt’una “saklama” yazmak sağlayıcının kayıt politikasını değiştirmez. Sağlayıcı ve alt işleyenler, saklama/eğitim kullanımı, erişim, silme ve yurt dışı aktarım koşulları kurum tarafından değerlendirilmelidir. KVKK özel nitelikli veri rehberi uygun işleme şartlarının ayrıca ele alınmasını gerektirir.

Prompt injection riskini tasarım aşamasında hesaba katın

Kullanıcı mesajıyla asistanın talimatını değiştirmeye çalışan girişimlere prompt injection denir. Bu risk, güçlü bir model kullanmakla veya içeriği filtrelemekle tamamen ortadan kalkmaz; OWASP prompt injection rehberi bu saldırının RAG ve ince ayar yöntemleriyle bile tamamen engellenemeyeceğini vurgular. Güven sınırı, insan onayı ve araçların yetki sınırları ayrıca tasarlanır.

Araçları dar yetkiyle çalıştırın. Randevu oluşturma gibi sınırlandırılmış bir işlem, kullanıcıya ayrıntılar gösterilip teyit alındıktan ve sunucuda kapasite/yetki doğrulandıktan sonra otomatik yürütülebilir; her işlem için personel onayı teknik zorunluluk değildir. Sağlık değerlendirmesi veya yüksek etkili kararlar bu ilk temas asistanının kapsamı dışındadır. İstek tekrarının mükerrer kayıt yaratmadığını test edin.

Kimlik doğrulama ile yetkilendirme ayrımını uygulayın

Çalışma saati gibi kamu bilgisini görmek için hasta girişi şart değildir. Kişiye özel randevuyu göstermek veya değiştirmek için ise uygun kimlik doğrulama ve her istekte yetkilendirme gerekir. OWASP yetkilendirme rehberi bu ayrımı açıklar. Kullanıcının başka bir randevu numarası yazması, o kayda erişim hakkı vermez.

Pratik kontrol şu sorudur: asistana kendi randevum sorduğumda, arka planda hangi kontrollerden geçiyor? Randevu kaydının kişiye özel sunulması, sunucu tarafında oturum sahibi ile kayıt sahibi eşleştirmesi yapılarak yapılır; asistanın yüzeyinde "kimden istendi" bilgisiyle değil, sunucudaki yetki kontrolüyle güvenilir hale gelir. Gizli URL veya tek bir giriş ekranı, yetkilendirme yerine geçmez.

İnsan devri noktasını netleştirin

Asistanın yetemediği her noktada gerçek kişiye devir gerekir. Bu devir noktasını önceden tanımlayın: hangi sorularda, hangi kanaldan, hangi süre içinde? Mesai dışında gelen talebin ne zaman yanıtlanacağı asistanda açık olmalı; "birazdan dönüş yapacağız" gibi belirsiz ifade yerine "sonraki iş günü X saat içinde" gibi somut beklenti verilmesi hasta deneyimini netleştirir.

Devir için desteklenen bir kayıt ya da bildirim mekanizması kurun. Asistan yalnız sunucu başarı durumunu aldıysa “talebiniz alındı” desin; personelin henüz okumadığı mesajı okundu gibi göstermesin. Sağlık iletişim akışında teslim hatası, kuyruk ve yanıt sorumlusu düzenli kontrol edilmelidir.

Devirde bütün sohbeti otomatik kopyalamayın. Gerekli ve uygun bilgi, yetkili kişinin eriştiği güvenli kayda aktarılsın; kişiye neyin aktarıldığı açıklansın. Hata loglarında ham sohbet veya kimlik bilgisi yerine teknik durum kodu kullanın. Modelin önerdiği yetkiyi veya saklama süresini otomatik kurum politikası haline getirmeyin.

• Asistanın görev tanımı ve kapsam dışı listesi yazılı mı?
• Kişisel sağlık bilgisi asistan sorusunda hiç istenmiyor mu?
• Asistanın verdiği yanıtların kaydında saklama süresi ve erişim yetkisi tanımlı mı?
• Prompt injection girişiminde asistanın davranışı test edildi mi?
• Yazma işlemlerinde kullanıcı teyidi, sunucu yetkisi, kapasite ve tekrar kontrolü var mı?
• İnsan devri noktaları ve yanıt süresi tanımlı, düzenli kontrol ediliyor mu?

Sonuç

İlk temas asistanının sınırını kamu bilgisi ve uygun idari yönlendirmeyle belirleyin. Veri dış modele ulaşmadan önce kontrol kurun; prompt’u güvenlik veya saklama garantisi saymayın. Kişiye özel işlemler için sunucuda yetki ve kullanıcı teyidi, kapsam dışı sorular için güvenilir insan devri sağlayın. Yayın sonrasında erişim ve veri akışını tekrar test edin.