Yapay zekâ hekiminiz değil, danışırken dikkat edin

0

BEĞENDİM

ABONE OL

News

0

Sohbet robotları düşünme, öğrenme ve etrafımızdaki dünyayı algılama formumuzu değiştiriyor. Bu cins bir dönüşüm hayatın birçok alanında kendini gösteriyor fakat tahminen de en hassas ve sıklıkla tasa verici olanlardan biri, sıhhat hizmetleri için üretken yapay zekâ (GenAI) araçlarının giderek artan kullanımı. Siber güvenlik alanında dünya lideri olan ESET,  tıbbi tavsiye almak için yapay zekâ kullanmanın  güvenlik ve saklılık risklerine maruz bırakabileceği ihtarında bulundu. Riskleri sıralayarak nasıl inançta kalınabileceğine yönelik tekliflerini paylaştı.

Bir dizi fiyatsız yapay zekâ sohbet robotunun yanı sıra büyük teknoloji şirketleri, kullanıcıların tıbbi kayıtlarını yorumlamalarına ve semptomları, laboratuvar sonuçları ve tedavi seçenekleri hakkında sorular sormalarına yardımcı olan Copilot Health, ChatGPT Health ve Amazon’un HealthAI üzere hizmetlerin lansmanıyla tüketicilere yönelik sıhhat yapay zekâ alanına girdi. Bir yapay zekâ aracının hekimin rolünü üstlenmesini beklemek kimi riskler barındırıyor. Risk yalnızca kullanıcıların yanlış tavsiye alması değil, tıpkı vakitte saklılık müdafaaları, data paylaşım uygulamaları ve yasal yükümlülükleri bir doktor veya hastaneninkinden farklı olabilecek sistemlerle son derece hassas ferdî bilgileri paylaşmaları ve datalarının beklenmedik kuruluşlara maruz kalmasıdır. Bir ABD hasta güvenliği kuruluşuna nazaran, genel olarak yapay zekâ sohbet robotlarının berbata kullanımı şu anda sıhhat teknolojisi alanında bir numaralı tehlike pozisyonunda.

Microsoft’a nazaran, beşerler taşınabilir aygıtlarında öteki tüm bahislerden daha fazla kendi sıhhatleri ve sevdiklerinin sıhhati hakkında konuşuyor. Sohbet robotları 7/24 hizmet veriyor ve her şeye bir yanıt sunarken gergin hastaları rahatlatmaya yardımcı olan kendinden emin bir üslupla konuşuyorlar. Ulusal sıhhat sistemlerinin giderek daha fazla baskı altında olduğu bir periyotta, birçok kişi tıbbi yardım almaya karar vermeden evvel muhtemelen yapay zekâ yardımıyla kendi kendine teşhis koyacak.  Ancak şimdiden kimi kaygılar ortaya çıkmaya başladı. Bunlardan birincisi, halüsinasyonlar yahut yanlış tavsiyeler. Şubat ayında Nature Medicine mecmuasında yayımlanan bir Oxford Üniversitesi araştırması şu bulguları ortaya koydu: Kullanıcılar çoklukla LLM ile hangi bilgileri paylaşmaları gerektiğini bilmiyorlar;  LLM’ler, kendilerine yöneltilen sorular çok az farklılık gösterse bile çok farklı karşılıklar veriyor ve  modeller ekseriyetle hem güzel hem de makus tavsiyelerde bulunuyor lakin kullanıcılar ikisini birbirinden ayırt etmekte zorlanıyor. Çalışmanın başhekimine nazaran tüm bu heyecana karşın yapay zekâ şimdi bir doktorun rolünü üstlenmeye hazır değil. Hastalar, semptomları hakkında büyük bir lisan modeline danışmanın tehlikeli olabileceğini, yanlış teşhisler ortaya çıkabileceğini ve acil yardım gerektiğinde bunun farkına varılamayabileceğini bilmeli. 

Yapay zekâ kapalılık riskleri 

Bireylerin bir an durup düşünmelerini gerektirecek, sıhhatle ilgili olmayan riskler de bulunuyor. Hassas tıbbi bilgileri halka açık bir sohbet robotuyla paylaşmanın, bilgilerin modeli eğitmek için kullanılması ve hasebiyle diğerlerine aktarılması manasına gelebileceği. Kasıtsız da olsa modellerin kullanıcıları tarafından girilen bilgileri ezkaza ifşa ettiği biliniyor. Sıhhat bilgileriniz, bilgileri değiştirilip yine düzenlenirken dondurulabilen çalıntı bir kredi kartı üzere değildir. Ömür uzunluğu size aittir ve bir yapay zekâ aracıyla paylaşıldığında kalıcı bir dijital kayıt hâline gelebilir. Sıhhat odaklı esas sohbet robotlarının birden fazla, bu dataları eğitim hedefli kullanmayacaklarına dair kelam veriyor. Eğitim zımnilik tablosunun yalnızca bir modülü ve hizmetler, üçüncü taraf bilgi paylaşımı konusunda aynı sözleri vermeyebilir. Ferdî tıbbi bilgileriniz, model sağlayıcısı ile sıhhat hizmeti sağlayıcınız ortasında yer alan bir üçüncü taraf olan data toplayıcısının eline geçebilir. Ayrıyeten ekseriyetle kullanımdan evvel anonimleştirilse de direkt yahut bu toplayıcılardan biri aracılığıyla reklam verenlerle paylaşılabilir. Sıhhat dataları harika hassastır ve anonimleştirme her vakit tüm riskleri ortadan kaldırmaz.

İhlal riski katlandığında

Sağlık dataları, çeşitli nedenlerle dolandırıcılar tarafından yüksek oranda paraya çevrilebilir. Ekseriyetle değiştirilemediği yahut tekrar düzenlenemediği için uzun mühlet pahasını korur. Geçersiz talepler sunmak yahut sizin isminize tıbbi hizmetler almak için kullanılabilecek sigorta bilgilerini içerebilir. Size şantaj yapmak için kullanılabilir. Bu dataları elinde bulunduran şirket sayısı ne kadar fazla olursa hackerların bu bilgileri ele geçirip çalma mümkünlüğü da o kadar artar. 

Yapay zekâ ile paylaştıklarınıza dikkat edin

Bir sıhhat sorunu konusunda kaygılarınız varsa genel maksatlı botlardan uzak durun ve bunun yerine sıhhatle ilgili soruları yanıtlamak üzere özel olarak tasarlanmış botları tercih edin. Hizmetin datalarınızı nasıl işlediğini açıklayıp açıklamadığını, eğitim maksadıyla girdiğiniz komutları kullanıp kullanmadığını, bilgileri üçüncü taraflarla paylaşıp paylaşmadığını ve bir kapalılık düzenlemesi kapsamında olup olmadığını denetim edin. Doğrulamak için kaynak ilişkileri yoksa çıktılara körü körüne güvenmeyin. Karşılıkları mutlak gerçek olarak kabul etmeyin: Her vakit bir tıp uzmanına yahut resmî bir web sitesine  danışın.

Gizliliğinizi korumak için şunları  göz önünde bulundurun:

• Araçların bu bilgileri nasıl işlediğini anlamadığınız sürece, tıbbi evrakları, laboratuvar sonuçlarını yahut öbür hassas dokümanları bir yapay zekâ aracıyla asla paylaşmayın, yüklemeyin.
• İsim, adres, sigorta bilgileri, hasta numaraları yahut başka tanımlayıcı bilgileri girmekten kaçının.
• Eğitim ve sohbet geçmişi özelliklerinin kapalı olduğundan emin olun.
• Görev için gerekli olan asgarî bilgiyi paylaşın.
• Yazdığınız her şeyin saklanabileceğini yahut ifşa edilebileceğini varsayın ve komutlarınızı buna nazaran ayarlayın.

Yapay zekâ sohbet robotları, hekiminize soracağınız makul bir durumla ilgili soruları beyin fırtınası yapmak yahut aşina olmadığınız bir tıbbi terimi açıklamak için faydalı olabilir. Fakat tıbbi bakım için hazırlık yapmak emeliyle yapay zekâ kullanmak ile tıbbi bakımın yerine yapay zekâyı kullanmak ortasında büyük bir fark vardır. Kendinden emin bir yanıtı teşhis olarak kabul etmeyin ve bir makine sizi rahatlattığı için acil semptomları görmezden gelmeyin. 

Kaynak: (BYZHA) Beyaz Haber Ajansı