Sağlıkta Üretken Yapay Zeka Uygulamalarının Kullanılması: Faydaları ve Riskleri

Sağlık hizmetlerinde ChatGPT ve diğer üretken yapay zeka teknolojileri, daha yüksek verimlilik ve daha yüksek sağlık hizmeti kalitesi için fırsatlar oluşturabilir. Bununla birlikte bu tür fırsatlar ve faydalar, ön yargı, şeffaflık, hasta mahremiyeti, hasta verilerinin gizliliği ve güvenliği ile ilgili risklere karşı dikkatli bir şekilde dengelenmelidir. Yine sağlık hizmet sunucuları, bu riskleri azaltmak ve ChatGPT veya diğer yapay zeka teknolojilerinin doğru bir şekilde kullanımlarını denetlemek için uygun politikalar ve prosedürler geliştirmelidirler.

Dijitalleşmenin büyük bir ivme kazandığı günümüzde gelinen son nokta üretken yapay zekâ modelleridir. Viral popülaritesine rağmen, halihazırda birçok kuruluş Kasım 2022’de OpenAI tarafından piyasaya sürülen “ChatGPT” (Chat Generative Pre-training Transformer) kullanma konusunda temkinli davranıyor. Bazı ülkeler ChatGPT kullanılmasının şimdilik ertelenmesini, bazı ülkeler ise tamamen yasaklanmasını tartışıyor. İleriyi düşünen şirketler ise temkinli yaklaşmakla beraber bu araçların kullanımına ilişkin politikalar geliştirmeye çalışıyor. Ülkemizde ise politika yapıcılar veya ilgilileri tarafından bu konuda henüz bir “endişe” veya tedbir önerisi getirilmemiştir. Diğer taraftan yakın zamanda ChatCPT’nin yaratıcısı OpenAI yapay zekâ modellerinin tüm insanlığa fayda sağlama potansiyeline sahip olduğu ancak giderek daha ciddi risklerde oluşturduğu konusunda uyarıda bulunma ihtiyacı hissetti.⁽¹⁾

Bütün bu gelişmeler, endişeler ve uyarılar üretken yapay zekâ konusunda pek çok bilinmeyen veya öngörülemeyen noktaların var olduğunu göstermektedir. Öncelikle üretken yapay zekâ teknolojilerinin kullanımıyla ilgili faydalar ve riskler hakkında karanlık noktaları aydınlatmaya; konuyu etik, yasal ve sosyal boyutları itibarıyla değerlendirmeye ihtiyaç olduğunu düşünüyorum.

ChatGPT, teşhis ve klinik karar verme sürecinde önemli bir eşiği daha geçti

Sağlık Hizmetlerinde Üretken Yapay Zekâ

Üretken yapay zekâ teknolojisinin sağlık sektöründe nasıl bir değişim yapacağı henüz tam olarak bilinmemekle birlikte, ChatGPT diğer pek çok sektörde olduğu gibi sağlık sektöründe de gerek hizmet sağlayıcılar açısından ve gerekse hastalar için umut verici bir gelişme olarak görülmektedir.

Sağlıkta ChatGPT, hastalıkları teşhiste, insanların sağlığa erişimini kolaylaştırmada, uzaktan hasta takip ve bakımında, tıbbi kodlama süreçlerinde, tıbbi kayıtları ve reçeteleri otomatikleştirmede, tıp eğitiminde, literatür taramalarında, klinik karar destek sistemlerinden büyük veri analizlerine kadar geniş bir alanda kullanılabilme potansiyeline sahip olduğunu göstermiştir. Bu teknoloji ilerleyen süreçlerde sağlık hizmetlerinin kalitesini ve erişilebilirliğini daha da artırarak, tıpta ve klinik araştırmalarda etkin bir enstrüman haline gelebilir.

Sağlık hizmet sunumuyla ilgili süreçlerde son kararı vermek için her zaman doktorlara ihtiyaç duyulacak olsa da ChatGPT, ilaçların etkileşime girebilme potansiyelini belirlemek ve belirli bir durum için tedavi seçenekleri önermek gibi gerçek zamanlı kanıta dayalı öneriler sunarak klinik karar desteği sağlayabilir.

Yine tıbbi kayıt tutma, ChatGPT’nin sağlık sistemlerinde geliştireceği başka bir alandır. Burada, hastaların tıbbi geçmişlerini özetleyerek kayıt tutma sürecini etkili bir şekilde kolaylaştırabilir. Bu da klinisyenlerin iş yükünü azaltacak ve hastalara daha çok vakit ayırmalarını sağlayacaktır.

ChatGPT‘nin sağlık hizmetlerinde kullanılabilecek başka bir işlevi de gerçek zamanlı çeviridir. Sistemin gelişmiş dil işleme yetenekleri, teknik ve tıbbi terimleri hızlı ve doğru bir şekilde tercüme etmek için kullanılabilir. Böylece hastaların teşhis/tedavi seçeneklerini ve tıbbi talimatları tam olarak anlamaları sağlanmış olacaktır.

Sağlıkta klinik araştırmalar yeni tedaviler, teşhis araçları ve önleyici stratejiler geliştirerek sağlık sisteminin ilerlemesi açısından hayati öneme sahiptir. Klinik araştırmalarda çok sayıda katılımcıya ihtiyaç vardır ve bazen katılımcı bulmak zor olabilir. ChatGPT, öngörülen kriterleri karşılayan hastaları tanımlayarak araştırmacıların klinik araştırmaya katılmaya istekli hastalarla bağlantı kurmasına yardımcı olabilir.

ChatGPT, doktorları geride bıraktı: Daha bilgilendirici, detaylı ve empatik yanıtlar verdi

ChatGPT tıp eğitimini geliştirme potansiyeline de sahiptir. Bu uygulama, eğitimcilere ve öğrencilere gelişimlerini desteklemek için ihtiyaç duyulan tıbbi bilgi ve kaynaklara anında erişim imkanı sağlayabilir.

Son olarak, üretken yapay zekanın uzaktan hasta takibi, ilaç yönetimi, hastalık gözetimi, hasta triyajı ve daha birçok alanda potansiyel uygulamaları vardır. Kırsal bölgelerde yaşayan bireylerin, sağlık hizmetlerine erişimini artıracak olan bu uygulamalar, sağlık eşitsizliklerinin (yerleşim yeri gelir düzeyi, eğitim seviyesi ve sosyal sınıf gibi) azaltılmasına önemli katkı sağlayacaktır.

Sağlıkta ChatGPT Kullanmanın Potansiyel Riskler Nelerdir?

OpenAl’ın yukarıda değindiğim “yapay zeka sistemlerinin ciddi riskler oluşturduğu” uyarısını sağlık hizmetleri açısında da değerlendirmek gerektiğini ifade etmek istiyorum. Sağlık hizmetlerinde ChatGPT kullanımının bazı hukuki, etik ve sosyal sorunlara neden olabileceğine dair endişeler mevcuttur. Bizi endişeye sevk eden bu riskler nelerdir;
ChatGPT kullanımına ilişkin endişeler arasında etik ve yasal sorunlar, adillik, önyargı riski, şeffaflık, orijinallik eksikliği, halüsinasyon riski taşıyan hatalı içerik, sınırlı bilgi, yanlış alıntılar, telif hakkı, hasta güvenliği, mahremiyet ve veri gizliliği sorunları sayılabilir.

Yapay zeka araçlarını uygularken dikkate alınması gereken en önemli hususlar ise veri gizliliği, hasta mahremiyeti ve güvenliğidir. Yapay zeka algoritmaları verilerle beslenmektedir. Sağlıkta yapay zeka uygulamalarında ise çoğunlukla hassas veri dediğimiz daha sıkı korunması gereken sağlık verileri işlenmektedir. Uygun güvenlik önlemlerinin alınamaması halinde veri gizliliği ve hasta mahremiyeti ihlalleri söz konusu olacaktır.

ChatGPT, bağımsız testlerde şunları söylüyor:

“Bir yapay zeka dil modeli olarak, benimle paylaşılan hiçbir bilginin gizliliğini garanti etme yetkinliğim yok.”⁽²⁾

ChatGPT’nin sağlık hizmetlerinde kullanılacaksa hasta bilgilerinin gizliliğini sağlayacak uygun sistemlerin kurulması gerekmektedir. Veri gizliliği ve mahremiyet ihlalleri veri koruma yükümlülüğü açısından veri sorumluları için önemli yasal sonuçlar doğurabilir.

Yapay zeka kanser tanı ve tedavisinin kaderini değiştirebilir mi?

Üretken yapay zeka, son derece teknik metinler, gerçekçi sesler ve gerçeğe yakın görüntüler gibi yeni ve inandırıcı içerik oluşturma yeteneğine sahiptir. Yanlış içeriğin üretilmesi sağlık hizmetlerinde ciddi olumsuz sonuçlara yol açabilir. ChatGPT tarafından üretilen bilgilerin bir kişinin sağlığını etkileme potansiyeli vardır; bu riskin sağlık uygulamalarında dikkate alınması, gözden kaçırılmaması gerekir.

Buna ek olarak, ChatGPT’nin yetenekleri nedeniyle kullanıcıların sistemin her zaman %100 doğru olduğuna körü körüne güvenme riski de vardır. ChatGPT’den elde edilen bilgilerin doğruluğunu ve güvenilirliğini sağlamak önemli bir sorundur. Sağlık hizmetleri kesinlik ve doğruluk gerektirdiği için küçük hataların bile hasta güvenliği açısından önemli sonuçları olabilir.

Bir başka önemli konu, ChatGPT uygulamasının neden olabileceği tıbbi hatalarda yasal süreç, sorumluluk rejimi ve hesap verebilirlik hususlarının hassasiyetle değerlendirilmesidir. Örneğin AI bir tıbbi hataya neden olduğunda tıbbi ihmalden kim sorumlu olacak? Klinisyen mi, yazılımı geliştiren şirket mi, programcılar mı yoksa veri analitiği uzmanları mı? Hastanemi?

Sağlık hizmetlerinde ChatGPT uygulamalarında diğer sorunlar arasında sağlık hizmeti sunumunda ihtiyaç duyulan kişisel ve duygusal bakış açılarının eksikliği yer almaktadır. Bu bakış açısı ve empati yapabilme becerisi sağlık hizmetlerinde görev yapan bireylerde bulunması gerekir.⁽³⁾

Doğal dil işleme ve makine öğrenimi gibi otomasyon işlevlerini kullanan ChatGPT gibi sohbet robotları, hastalarla açık uçlu bir diyaloğa girmek için kullanılmak istenirse, sistem arızası durumunda potansiyel olarak ciddi sonuçlara ve sorunlara neden olabilir. Şöyle ki, bir hasta ChatGPT’den sağlığıyla ilgili merak ettiği bazı soruları yanıtlamasını veya önerilerde bulunmasını istediğinde hasta, yanlışlıkla paylaşılmaması gereken sağlık bilgilerini verebilir ve bu bilgileri kamuya açık hale getirebilir.

Yapay zeka uygulamaları yeni ilaçların keşif sürecini çok hızlandıracak

Örneğin, HIV riski altında olduğundan endişe duyan bir hasta kendisinde hissettiği veya gördüğü hastalık semptomlarını girebilir ve ChatGPT’ten kendisinin risk altında olup olmadığını kontrol etmesini isteyebilir. Robot, hastalığı konusunda kişiyi bilgilendirmekle birlikte hasta semptomları da artık ChatGPT’in veri tabanının bir parçası haline gelmiş olacaktır. Bu nedenle ChatGPT kullanacak olan sağlık hizmet sunucusunun öncelikli olarak hasta mahremiyetine ve veri güvenliğine ilişkin düzenlemelerle, veri koruma mevzuatında (KVKK) öngörülen temel veri işleme ilkelerine uyması gerekecektir.

Yukarıda ifade etiğim hususlar ChatGPT’in sağlık sektöründe faydalı olma potansiyeline sahip olduğunu gösterse de ChatGPT iki tarafı keskin bir bıçak gibidir. Bu nedenle olası risklerini bilerek ve gerekli idari ve teknik tedbirleri alarak kullanmak gerekmektedir.

Riski Azaltmak İçin Asgari Düzeyde Yapılması Gerekenler

Öyle görünüyor ki bu teknoloji geniş çapta benimsenecek ve kalıcı bir değişime neden olacaktır. Teknoloji gelişmeye devam ederken, sağlık sektörü için en önemli zorluklardan biri, hasta güvenliği ve veri koruma yükümlülüğü ile teknolojiyi kullanmanın faydaları arasında denge kurmaktır.

ChatGPT’nin sağlık hizmetlerinde kullanılması, potansiyel olarak büyük miktarlarda hasta (sağlık) verilerinin toplanmasını ve depolanmasını gerektirebilir. Ancak yürürlükteki veri koruma mevzuatı, hasta verilerinin, amacı gerçekleştirmek için gereken minimum düzeyde (veri minimizasyonu ilkesi) kullanım sınırlaması getirmektedir. Bu nedenle bir sağlık hizmeti sağlayıcısı ChatGPT’nin nasıl kullanıldığını ve girilen herhangi bir verinin hasta verisi olarak değerlendirilip değerlendirilmeyeceğini bilmesi gerekir.

ChatGPT, kullanım amacını gerçekleştirmek için gerekli olduğu ölçüde hasta verisine yalnızca belirli amaçlarla ve yetkili kişilerce erişilmek ve kullanılmak üzere programlanmalıdır. ChatGPT’yi kullanan sağlık hizmeti sağlayıcıları, sağlık verisini depolamak ve aktarmak için etkin güvenlik önlemleri almalı ve veri koruma mevzuatına uygunluğu sağlamak için düzenli olarak risk değerlendirmeleri ve denetimleri yapmalıdırlar.

Yapay zeka cerrahide tüm operasyon ve bakım süreçlerini değiştirebilir

Sonuç

Sağlık hizmetlerinde ChatGPT ve diğer üretken yapay zeka teknolojileri, daha yüksek verimlilik ve daha yüksek sağlık hizmeti kalitesi için fırsatlar oluşturabilir. Bununla birlikte bu tür fırsatlar ve faydalar, ön yargı, şeffaflık, hasta mahremiyeti, hasta verilerinin gizliliği ve güvenliği ile ilgili risklere karşı dikkatli bir şekilde dengelenmelidir.
Yine sağlık hizmet sunucuları, bu riskleri azaltmak ve ChatGPT veya diğer yapay zeka teknolojilerinin doğru bir şekilde kullanımlarını denetlemek için uygun politikalar ve prosedürler geliştirmelidirler.

Yukarıda bahsedildiği gibi, ChatGPT’nin hasta verisine erişimi ve kullanımı belirli amaçlarla sınırlandırılmalı ve ilgili kuruluşlar, bu tür verilere erişen yetkili personel için güvenli kullanım eğitimleri vermeli ve uygun protokollerin yürürlüğe konulmasını sağmaladırlar.

ChatGPT sağlık hizmetlerinde, araştırma süreçlerinde ve klinik yönetiminde karar destek uygulaması olarak kullanılabilir. Ancak, nihai tahlilde yapay zekâ teknolojisinin, tam anlamıyla insan yeteneğinin ve bilgisinin yerini alması düşünülemez. Son söz olarak; sağlık hizmetlerinde bu teknoloji dikkatli kullanılmalı ve sağlık profesyonellerinin yokluğunda sağlıkla ilgili kararlar alırken ona güvenilmemelidir.
Av. Gürbüz Yüksel (LL.M) Sağlık Hukukçusu Bilişim Hukuku Bilim Uzmanı

YORUMUNUZ VAR MI?

Label

İsim*

Email*

Δ

Label

İsim*

Email*

Δ

0 Yorum

Inline Feedbacks

Tüm yorumları gör