Deneyde İnsan: Etik, Gizlilik, Sorumluluk ve Uçtan Uca İş Akışı

Kazanimlar:

• Deneyde insan ilkesini uçtan uca iş akışına oturtup her aşamada yapay zeka/insan rollerini ayırabilme
• Gizli yapı ve verileri genel yapay zekaya vermeden jenerik vekil örneklerle çalışabilme
• Kritik noktalara insan onay kapıları koyup şeffaflık ve izlenebilirlik ile nihai sorumluluğu üstlenebilme

Bu son ünitede tüm modülü tek bir çerçevede birleştiriyoruz: deneyde insan (human-in-the-loop). Bu ilke şunu söyler: YZ ne kadar yetenekli olursa olsun, kimyasal bir kararın her kritik noktasında bir insanın anlaması, denetlemesi ve onaylaması gerekir. Bu ünitede önce etik ve gizlilik boyutunu netleştirecek, sonra bir molekülü fikirden rapora kadar götüren uçtan uca bir iş akışı kuracak ve YZ ile insanın her aşamada nasıl işbölümü yaptığını göreceğiz. Amaç, öğrendiğiniz her şeyi günlük çalışmaya oturan bir sisteme dönüştürmektir.

Gizlilik: neyi YZ'ye vermemeli?

Kimya çoğu zaman gizli bilgiyle çalışır: patentlenmemiş moleküller, şirket sırrı sentez yolları, yayımlanmamış veri, hasta örnekleri. Genel bir YZ hizmetine girdiğiniz metin, hizmetin politikasına göre saklanabilir veya işlenebilir. Bu yüzden:

• Yayımlanmamış özgün yapıları (patent öncesi moleküller) genel YZ'ye vermeden önce kurum politikanızı kontrol edin.
• Kişisel/hasta verilerini (klinik örnekler) asla tanımlanabilir biçimde girmeyin.
• Ticari sır sentez yollarını paylaşmadan önce gizlilik anlaşmalarını gözden geçirin.
• Gerektiğinde kurum içi/özel dağıtım YZ araçlarını tercih edin.

Dikkat: Bir molekülü genel bir YZ'ye sormak, o molekülün yapısını dışarı vermek demek olabilir. Patent başvurusu yapılmamış özgün bir yapı için bu, önceliğinizi (patent hakkını) tehlikeye atabilir. Gizli yapıları jenerik/vekil örneklerle sorun.

Etik: dört ilke

1. Şeffaflık: YZ'yi nerede kullandığınızı gizlemeyin; yayın ve kurum politikalarına uyun.
2. Sorumluluk: Nihai karardan insan sorumludur; "YZ önerdi" güvenlik veya bütünlük ihlalini mazur göstermez.
3. Zarar vermeme: YZ'yi tehlikeli/yasadışı sentez, çift kullanımlı (silah potansiyeli olan) uygulamalar için kullanmayın.
4. Adillik ve dürüstlük: Veriyi çarpıtmayın, sonucu güzelleştirmeyin, atıfları uydurmayın.

Uçtan uca iş akışı: molekül → rapor

Şimdi tüm modülü tek bir akışta birleştirelim. Her aşamada YZ ne yapar ve insan ne yapar ayrımına dikkat edin.

Aşama

YZ'nin rolü

İnsanın (kritik) rolü

1. Fikir/literatür

Kavram özeti, arama terimi

Gerçek kaynağı bulma, atıf teyidi

2. Yapı tanımı

SMILES üretme

RDKit ile doğrulama, InChIKey

3. Sentez planı

Retrosentez, alternatifler

Literatür teyidi, yol seçimi

4. Güvenlik

SDS özeti, ön uyumsuzluk

SDS okuma, onay, KKE kararı

5. Uygulama

(Yok)

Tüm laboratuvar işi

6. Analiz

Spektrum yorum desteği

Nihai yapı ataması

7. Veri işleme

Kod yazma

Kodu çalıştırma, sonuç doğrulama

8. Dokümantasyon

Biçimlendirme, denetim

Gözlem, sapma, imza

9. Raporlama

Taslak metin

Sayı/atıf doğrulama, sorumluluk

Bu tablo modülün 11 ünitesinin tek bir işe nasıl dizildiğini gösterir. YZ hızlandırır; insan doğrular ve sahiplenir.

Adım adım: iş akışını kurmak

1. Rolleri netleştir: Her görev için "YZ mi, insan mı karar verir?" baştan belirle.
2. Gizlilik filtresi kur: Bir şeyi YZ'ye vermeden "bu gizli/özgün mü?" diye sor.
3. Doğrulama kapıları koy: Her aşama sonunda bir doğrulama adımı (10. ünitedeki tablo).
4. İzlenebilirlik tut: Hangi çıktı YZ'den, nasıl doğrulandı, kim onayladı.
5. Onay noktaları belirle: Güvenlik ve nihai sonuç gibi kritik noktalarda insan onayı zorunlu.
6. Geri besleme: Yakalanan her hatayı kaydedip iş akışını iyileştir.

Dört kopyalanabilir şablon

1) Gizlilik ön filtresi:

Bir soru sormadan önce şunu değerlendir:İçerik: [SORACAĞIM ŞEY]Görev: Bu içerik yayımlanmamış özgün yapı, kişisel veri veya ticari sıriçeriyor mu? İçeriyorsa, yapıyı gizleyecek jenerik/vekil bir örneklesoruyu nasıl yeniden yazabileceğimi öner.

2) Aşama sonu doğrulama kapısı:

Şu aşamayı tamamladım: [AŞAMA, örn. sentez planı].Görev: Bu aşamadan çıkan doğrulanması gereken tüm öğeleri listele(sayı, atıf, yapı, güvenlik iddiası). Her biri için doğrulama yönteminive kimin onaylaması gerektiğini yaz. Bir sonraki aşamaya geçmedenkapatılması gereken açık maddeleri işaretle.

3) İnsan-YZ rol dağılımı planı:

Projem: [KISA TANIM].Görev: Bu projeyi aşamalara böl. Her aşama için:- YZ'nin yapabileceği (taslak, kod, özet)- İnsanın karar vermesi gereken (güvenlik, sonuç, onay)ikilisini ayır. Nihai sorumluluğun insanda olduğu kritik noktaları işaretle.

4) Rapor bütünlük kontrolü:

Aşağıda rapor taslağım var:[TASLAK]Görev: Şunları kontrol et ve işaretle:1) Doğrulanmamış sayı/atıf var mı?2) YZ kullanımı şeffaf belirtilmiş mi?3) Veri "güzelleştirilmiş" görünüyor mu (aykırı değer gizleme)?4) Güvenlik/etik açıdan eksik var mı?Emin olmadığın yerleri [KONTROL ET] işaretle.

Zayıf prompt / Güçlü prompt

Zayıf:

Şirketimizin yeni gizli molekülünü sentezlemenin en iyi yolu ne?[gerçek özgün yapı]

Bu, patent öncesi özgün yapıyı genel bir hizmete ifşa eder; öncelik hakkını ve gizliliği riske atar.

Güçlü:

Bir aromatik keton sınıfının benzeri bir yapı için genel retrosentezstratejisi öğrenmek istiyorum. Somut, özgün yapımı vermeden,jenerik bir örnek (asetofenon türevi) üzerinden anlat.Ben stratejiyi kendi molekülüme kurum içinde uygulayacağım.

Fark: gizli yapı ifşa edilmeden, jenerik vekil örnekle aynı öğrenme elde edildi.

Mini vakalar

Vaka 1 — İfşa edilen özgün yapı. Bir ekip patent başvurusu öncesi özgün bir molekülü genel bir YZ'ye sordu. Hukuk birimi bunun önceliği tartışmaya açabileceğini belirtti; süreç gecikti. Ders: özgün yapıları jenerik vekille sorun, gizlilik politikasına uyun.

Vaka 2 — İnsan onayı kazayı önledi. Bir otomatik iş akışında YZ bir prosedür taslağı üretti ve doğrudan uygulanacaktı; ama akışa konmuş "güvenlik onayı" kapısında deneyimli bir kimyager uyumsuz bir reaktif çiftini yakaladı. Ders: kritik noktalarda insan onayı kapısı hayat kurtarır.

Vaka 3 — Uçtan uca disiplin. Bir yüksek lisans öğrencisi tüm modülü bir projede uyguladı: YZ ile literatür özeti + gerçek atıf teyidi, RDKit ile yapı doğrulama, kodla veri analizi, SDS ile güvenlik, dürüst dokümantasyon, şeffaf raporlama. Sonuç hem daha hızlı hem daha sağlam çıktı; tez savunmasında "YZ'yi nasıl doğruladın?" sorusuna net cevap verdi. Ders: YZ + doğrulama disiplini birlikte en güçlü sonucu verir.

Sık yapılan hatalar

• Gizli yapıyı genel YZ'ye vermek. Patent önceliğini ve ticari sırrı riske atar.
• Kişisel/hasta verisini tanımlanabilir girmek. Gizlilik ihlali ve yasal risk.
• Onay kapılarını atlamak. Güvenlik ve nihai sonuçta insan onayı olmadan ilerlemek.
• Sorumluluğu YZ'ye devretmek. "YZ önerdi" hiçbir hatayı mazur göstermez.
• Şeffaflıktan kaçınmak. YZ kullanımını gizlemek bütünlüğü zedeler.
• Çift kullanım riskini görmezden gelmek. Zarar verici uygulamalar için YZ kullanmak etik dışıdır.

İpucu: İş akışınızı "her kritik kararda bir insan durur ve onaylar" ilkesiyle tasarlayın. YZ'yi zinciri hızlandıran bir halka yapın, zinciri tutan düğüm her zaman insan olsun.

Özetle

• Deneyde insan ilkesi: her kritik kimyasal kararda bir insan anlar, denetler ve onaylar.
• Gizlilik: özgün yapıları, kişisel veriyi ve ticari sırları genel YZ'ye vermeyin; jenerik vekil kullanın.
• Etik: şeffaflık, sorumluluk, zarar vermeme, dürüstlük dört temel ilkedir.
• Uçtan uca iş akışında YZ her aşamada hızlandırır; insan doğrular ve sahiplenir.
• Kritik noktalara (güvenlik, nihai sonuç) insan onay kapıları koyun ve izlenebilirlik tutun.

Uygulama görevi

Kendi bir projenizi (gerçek veya varsayımsal) seçin ve baştan sona bir YZ-insan iş akışı tasarlayın. Yukarıdaki 9 aşamalı tabloyu kendi projenize uyarlayın: her aşamada YZ ne yapacak, insan neyi onaylayacak? Gizlilik ön filtresini uygulayın: hangi bilgileri YZ'ye vermezsiniz, nasıl jenerikleştirirsiniz? En az iki insan-onay kapısı ve bir izlenebilirlik yöntemi tanımlayın. Bir sayfalık "iş akışı ve doğrulama planı" yazın.

Kontrol listesi

• [ ] Deneyde insan ilkesini ve neden gerekli olduğunu kavradım.
• [ ] Gizli yapı/veriyi genel YZ'ye vermeden jenerikleştiriyorum.
• [ ] Şeffaflık, sorumluluk, zarar vermeme, dürüstlük ilkelerine uyuyorum.
• [ ] Uçtan uca iş akışında YZ/insan rollerini ayırdım.
• [ ] Kritik noktalara insan onay kapıları koydum.
• [ ] Hangi çıktının YZ'den geldiğini ve nasıl doğrulandığını izliyorum.

Modul Sinavi

1. Kimyada yapay zeka için en doğru konumlandırma aşağıdakilerden hangisidir?

• A) Yapay zeka bir kod, taslak ve düzenleme asistanıdır; yapı, sayı, kaynak, güvenlik ve etik kararların sorumluluğu insandadır ✔
• B) Yapay zeka bir kimya motorudur ve verdiği molekül ağırlıkları her zaman kesindir
• C) Yapay zeka yalnızca literatür taramasında işe yarar, analiz ve güvenlikle ilgisi yoktur
• D) Yapay zeka insandan daha tarafsız olduğu için güvenlik kararları ona bırakılmalıdır

Aciklama: Yapay zeka; kod yazan, taslak üreten, retrosentez iskeleti kuran, spektrum yorumuna yardım eden ve düzenleyen bir asistandır. Ancak molekül ağırlığı ve stokiyometrinin deterministik hesabı, yapının RDKit ile doğrulanması, atıfların veritabanında teyidi, güvenliğin SDS/GHS ile kararı ve nihai sorumluluk yetkin kimyagere aittir. Büyük dil modeli bir hesap makinesi ya da kimya motoru değildir; 'bir sonraki en olası kelimeyi' üreten bir metin üreticisidir ve doğrulanmamış çıktısı yanlış bir yapıya, sayıya veya tehlikeye yol açabilir.

2. Bir molekülü yapay zekaya tanımlarken en güvenilir yol hangisidir?

• A) Yalnızca yaygın Türkçe adını yazmak
• B) SMILES gibi bir yapı gösterimi vermek ve kimliği InChIKey ile teyit etmek ✔
• C) Sadece molekül ağırlığını söylemek
• D) Ticari markasını yazmak yeterlidir

Aciklama: İsimler (özellikle ticari ve eş anlamlı adlar) belirsizdir ve yanlış moleküle yol açabilir. Molekülü SMILES gibi bir yapı gösterimiyle vermek kesinlik sağlar; kimliği InChIKey ile veritabanında teyit edilir. Ayrıca yapay zekanın verdiği SMILES RDKit ile ayrıştırılıp kanonikleştirilerek doğrulanmalıdır.

3. Yapay zekanın verdiği bir molekül ağırlığını nasıl kullanmalısınız?

• A) Doğrudan kullanmak, çünkü yapay zeka sayılarda güvenilirdir
• B) Formülden elle veya RDKit ile bağımsız hesaplayıp doğrulamak ✔
• C) Sadece başka bir yapay zekaya sorup karşılaştırmak yeterlidir
• D) Molekül ağırlığı önemsizdir, doğrulamaya gerek yoktur

Aciklama: Molekül ağırlığı, molekül formülünden deterministik olarak hesaplanan bir büyüklüktür. Bu yüzden dil modeline sormak en zayıf yoldur; RDKit gibi bir araçla veya formülden elle hesaplayarak bağımsız doğrulanmalıdır. Dil modeli bu tür sayıları 'olası görünen' bir değerle uydurabilir.

4. Yapay zekanın verdiği bir literatür atfını (makale/DOI) kullanmadan önce ne yapılmalıdır?

• A) Hiçbir şey; yapay zeka atıf verdiyse gerçektir
• B) Sadece başlığın inandırıcı görünmesine bakmak yeterlidir
• C) Her atıf ve DOI'yi bir veritabanında (doi.org, Crossref) çözerek teyit etmek ✔
• D) DOI numarasının uzun olması gerçek olduğunu kanıtlar

Aciklama: Dil modeli, gerçekçi görünen ama var olmayan makaleler, yazarlar ve DOI'ler üretebilir (sahte atıf). Bir DOI vermesi geçerli olduğu anlamına gelmez. Her atıf, doi.org, Crossref veya yayıncı sitesi gibi bir veritabanında çözülerek teyit edilmelidir; en güvenli akış, gerçek makaleyi insanın bulup metni yapay zekaya özetletmesidir.

5. Reaksiyon planlamada yapay zeka en çok hangi konuda zayıftır ve teyit gerektirir?

• A) Reaksiyonun hangi genel sınıfa ait olduğunu tanımada
• B) Kesin koşul sayıları, verim değerleri ve reaktif/katalizör adlarında ✔
• C) Bir mekanizmayı sade dille açıklamada
• D) Alternatif yollar için beyin fırtınası yapmada

Aciklama: Yapay zeka reaksiyon tipini ve iyi belgelenmiş reaksiyonların ana ürününü genelde iyi öngörür. Ancak kesin koşul sayıları (sıcaklık, süre, eşdeğer), verim değerleri, nadir reaksiyonlar ve reaktif/katalizör adları en zayıf ve uydurmaya en açık alanlardır; bunlar literatür ve kataloglarla teyit edilmelidir.

6. Spektrum yorumunda yapay zekayı en güvenilir kullanma biçimi hangisidir?

• A) Sadece birkaç pik verip 'bu neyin spektrumu?' diye sormak
• B) Beklenen yapıyı ve tam ham veriyi verip tutarlılık kontrolü yaptırmak (hipotez sınama) ✔
• C) İntegrasyon ve yarılma vermeden yalnızca kayma değerlerini yazmak
• D) Tek bir teknikle (yalnız IR) kesin yapı ataması yaptırmak

Aciklama: Yapay zekaya 'bu spektrum hangi bileşik?' diye sıfırdan sormak hata oranını yükseltir. En güvenilir yol, beklenen yapıyı (SMILES) ve ham veriyi (integrasyon, yarılma, çözücü, pik listesi) birlikte verip 'bu veri bu yapıyla tutarlı mı?' diye sormaktır; yani yapay zekayı bir hipotez sınayıcı olarak kullanmaktır. Nihai atama deneysel spektrumu inceleyen kimyagerindir.

7. Kimyasal bir hesabın (ör. yüzde verim) sonucunu almanın en güvenilir yolu nedir?

• A) Yapay zekadan sonucu doğrudan sözlü olarak istemek
• B) Hesabın Python kodunu yazdırıp çalıştırmak ve bilinen örnekle test etmek ✔
• C) Aynı soruyu birkaç kez sorup en sık gelen sayıyı almak
• D) Birim belirtmeden hızlıca tahmin ettirmek

Aciklama: Dil modeli aritmetiği 'olası sonucu tahmin ederek' yapar ve çok basit çarpımlarda bile yanılabilir. En güvenilir yol, yapay zekaya hesabın kendisini değil KODUNU (ör. Python) yazdırıp o kodu çalıştırmaktır; kod deterministiktir ve denetlenebilir. Kod ayrıca cevabı bilinen küçük bir örnekle test edilmelidir.

8. Molekül özellik tahmininde 'uygulanabilirlik alanı' kavramı neyi ifade eder?

• A) Modelin çalıştığı bilgisayarın işlem gücü
• B) Modelin güvenilir tahmin verdiği, eğitim verisine benzeyen molekül bölgesi ✔
• C) Modelin verdiği sayının her zaman kesin olduğu güvence alanı
• D) Molekülün laboratuvarda sentezlenebildiği sıcaklık aralığı

Aciklama: Bir QSAR/tahmin modeli, eğitildiği moleküllere benzeyen moleküllerde iyi çalışır. Eğitim verisinden çok farklı bir molekül verilince model yine bir sayı üretir ama bu güvenilmezdir; buna 'uygulanabilirlik alanı dışında olmak' denir. Model her zaman bir cevap verir; cevabın güvenilir olup olmadığını değerlendirmek insana kalır.

9. Deney dokümantasyonunda gözlemlerle ilgili doğru yaklaşım hangisidir?

• A) Zaman kazanmak için gözlemleri yapay zekaya yazdırmak
• B) Gözlemleri deneyi yapan insanın yazması; yapay zeka yalnızca biçimlendirir ve denetler ✔
• C) Gözlemleri kaydetmemek, sadece nihai verimi yazmak yeterlidir
• D) Plandan sapmaları raporu güzel göstermek için gizlemek

Aciklama: Yapay zeka ne olduğunu bilmez; gözlemleri (renk değişimi, gaz çıkışı vb.) ona uydurtmak makul görünen ama gerçekleşmemiş kayıtlar üretir ve bu bilimsel sahtekârlıktır. Yapay zeka kaydı biçimlendirir, eksik alanları hatırlatır ve tekrarlanabilirlik açısından denetler; ancak gözlemleri ve gerçekleri deneyi yapan insan sağlamalıdır. Plandan sapmalar da mutlaka kaydedilmelidir.

10. Laboratuvar güvenliğinde yapay zekanın rolü ve gerçeğin kaynağı nedir?

• A) Yapay zeka 'güvenli' derse başka kaynağa gerek yoktur
• B) Gerçeğin kaynağı SDS ve GHS'dir; yapay zeka yardımcıdır ama son sözü söyleyemez ✔
• C) Güvenlik kararları tamamen yapay zekaya devredilebilir
• D) SDS gereksizdir; internet forumları yeterli bilgi verir

Aciklama: Güvenlik kimyada en yüksek önceliktir ve yapay zeka burada asla son sözü söyleyemez. Gerçek güvenlik bilgisinin kaynağı, üreticinin sağladığı SDS (Güvenlik Bilgi Formu) ve GHS sınıflandırmasıdır. Yapay zeka SDS metnini özetleyebilir, form taslağı üretebilir ve ön uyumsuzluk taraması yapabilir; ancak tüm iddialar SDS ile doğrulanmalı ve prosedür deneyimli bir kişi/güvenlik sorumlusu tarafından onaylanmalıdır.

11. Aşağıdaki reaktif kombinasyonlarından hangisi bilinen tehlikeli (uyumsuz) bir eşleşmedir?

• A) Su ile sofra tuzunun karıştırılması
• B) Asidik bir çözelti ile hipoklorit içeren bir çözeltinin karıştırılması (klor gazı riski) ✔
• C) Etanol ile suyun karıştırılması
• D) Şeker ile suyun çözülmesi

Aciklama: Bazı kimyasallar tek başına görece güvenliyken bir arada tehlikelidir. Asit ile hipokloritin karışması klor gazı açığa çıkarır; oksitleyici + organik yangın/patlama, su + reaktif metal ısı/hidrojen riski taşır. Yapay zeka bu kombinasyonların çoğunu bilse de hepsini garanti etmez ve bazen tehlikeli bir öneriyi masum bir dille sunabilir; her prosedür uyumsuzluk açısından SDS ile taranmalıdır.

12. 'Halüsinasyon' (yapay zekanın uydurma bilgi üretmesi) için en doğru ifade hangisidir?

• A) Nadir bir yazılım hatasıdır ve güncellemeyle tamamen ortadan kalkar
• B) Dil modelinin doğasında olan bir davranıştır; çözüm her çıktıyı bağımsız doğrulamaktır ✔
• C) Yalnızca yanlış yazılmış promptlarda görülür, doğru promptta hiç olmaz
• D) Yapay zeka emin bir dille konuşuyorsa halüsinasyon değildir

Aciklama: Halüsinasyon bir arıza değil, 'bir sonraki en olası kelimeyi' üreten dil modelinin doğasının sonucudur; model doğruyu değil olası olanı hedefler. En sinsi yanı, yanlış bilgiyi doğruyla aynı kendinden emin dille sunmasıdır. Çözüm modeli düzeltmeye çalışmak değil, her çıktının etrafına türüne uygun bir doğrulama kabuğu örmektir; akıcılık asla doğruluk kanıtı değildir.

13. Kritik bir değeri (ör. molekül ağırlığı) doğrulamak için 'üçgenleme' ne anlama gelir?

• A) Aynı soruyu aynı yapay zekaya üç kez sormak
• B) Aynı sonuca birbirinden bağımsız birden çok yoldan varıp karşılaştırmak ✔
• C) Üç farklı molekülün ağırlığını aynı anda hesaplamak
• D) Sonucu üç ondalık basamağa yuvarlamak

Aciklama: Üçgenleme, aynı sonuca birbirinden bağımsız birden çok yoldan varmaktır; örneğin molekül ağırlığını yapay zekanın dediği, RDKit hesabı ve elle formülden hesap olarak karşılaştırmak. İki bağımsız yol örtüşürse güven yüksektir; biri sapıyorsa durulup araştırılır. Tek kaynağa güvenmek yerine en az iki bağımsız yol aranmalıdır.

14. Patent başvurusu yapılmamış özgün bir molekülü genel bir yapay zeka hizmetine sormanın doğru yolu nedir?

• A) Özgün yapıyı doğrudan vermek, çünkü hız önemlidir
• B) Özgün yapıyı ifşa etmeden jenerik/vekil bir örnek üzerinden strateji öğrenmek ✔
• C) Yapıyı vermek sorun değildir, yapay zeka bilgiyi asla saklamaz
• D) Molekülün adını vermeyip yalnızca tüm SMILES'ini paylaşmak yeterli korumadır

Aciklama: Genel bir yapay zeka hizmetine girilen içerik, hizmet politikasına göre saklanabilir veya işlenebilir; özgün bir yapıyı vermek gizliliği ve patent önceliğini riske atar. Doğru yaklaşım, özgün yapıyı ifşa etmeden jenerik/vekil bir örnek (benzer bir yapı sınıfı) üzerinden strateji öğrenip bunu kurum içinde kendi molekülüne uygulamaktır. Kişisel/hasta verileri de tanımlanabilir biçimde girilmemelidir.