Birisi bunu kullanımı kolay bir arayüzle sarıp sarmalar, etrafında bir şirket kurar ve tüm bir sektörün altüst olmak üzere olduğunu ilan eder.
Bir süreliğine, öyle görünebilir. Ancak aynı yetenek herkesçe erişilebilir hale geldiğinde, avantaj kaybolmaya başlar. Yenilik gibi görünen şey, aslında başka bir özellik olabilir.
Yapay zeka, işleri daha hızlı, daha ucuz ve daha kolay hale getirebilir. Ancak aynı modeller ve yetenekler herkese açık olduğunda, teknolojiye erişim nadiren kalıcı bir avantaj sağlar.
Asıl avantaj, insanların bunu bir organizasyon içinde nasıl uyguladığından gelir.
Yapay Zeka, Organizasyonu Anlamaz
Bir model programlamayı, finansı, pazarlamayı veya müşteri desteğini anlayabilir. Ancak bir organizasyonun neden olduğu gibi çalıştığını otomatik olarak anlamaz.
Mevcut sistemleri hangi geçmiş kararlar yarattı?
Hangi müşteri gereksinimleri gerçekten tartışılmaz?
Hangi süreçler önceki başarısızlıklar nedeniyle devreye alındı?
Hangi hedefler bir tabloda makul görünüyor ancak pratikte neredeyse imkansız?
Hangi yasal, güvenlik, operasyonel veya iş kısıtlamaları bu alanda önemli?
Bu bilgi nadiren tek bir eksiksiz ve güvenilir yerde bulunur. İnsanlar, sistemler, belgeler, konuşmalar ve geçmiş kararlar arasında dağılmış olabilir.
Buna genellikle örgütsel bilgi (tribal knowledge) deriz. Bunun daha fazlası belgelenebilir ve belgelenmelidir, ancak belgeleme tek başına sorunu çözmez.
RAG ve ince ayar (fine-tuning), modellerin örgütsel bilgiye erişmesine yardımcı olabilir. Ancak bilginin eksiksiz, güncel, alakalı veya doğru şekilde uygulandığını garanti edemezler.
Eksik bağlamı fark etmek, uç durumları ele almak, varsayımları sorgulamak ve sonuçları doğrulamak için hâlâ insanlara ihtiyaç vardır.
Daha da önemlisi, insanlar bu sistemlerin güvenilir bir şekilde destekleyebileceğinin ötesinde yargılarda bulunmalıdır.
İnceleme Sadece Yapay Zeka Hatalarını Düzeltmekle İlgili Değildir
Büyük dil modelleri, hatalı olduğunu fark etmeden yanlış bilgi üretebilir.
Olağan yanıt, çıktıyı kontrol eden bir insan denetleyici eklemektir. Ancak yapay zeka çıktısını incelemek, sadece olgusal hataları düzeltmekten daha fazlasını içermelidir.
Alanı ve organizasyonu anlayan biri şunları yapabilir:
- Organizasyonel mantığı uygulamak
- Özel durumları tanımak
- Eksik bilgiyi tespit etmek
- Bir hatanın maliyetini anlamak
- İş, yasal ve güvenlik risklerini değerlendirmek
- Yapay zekanın yanlış bir problem için kullanıldığını fark etmek
- Gelecekte kullanılmak üzere istemi (prompt), iş akışını veya sistemi iyileştirmek
Bu süreç sayesinde insanlar, modeli düzeltmekten daha fazlasını yapar. Organizasyonu daha yetenekli hale getirirler.
İnsanlar, yapay zeka sisteminin bir aksesuarı değildir.
Sistemin bir parçasıdırlar.
Modeller Değişir, ancak Organizasyon Çalışmaya Devam Etmelidir
Yapay zeka modelleri sürekli güncellenmektedir.
Daha yeni bir model daha iyi muhakeme yeteneğine sahip olabilir ancak ton, biçimlendirme veya araç kullanma davranışı daha kötü olabilir. Bir API değişebilir. Bir özellik kaldırılabilir. Bir model emekliye ayrılabilir.
Ayrıca, tek bir satıcıya aşırı bağımlı olmakla ilgili riskler de vardır.
Fiyatlar artabilir. Kullanım politikaları değişebilir. Özellikler kullanılamaz hale gelebilir. Bugün iyi çalışan bir model, altı ay sonra artık uygun olmayabilir.
Süreçlerini belirli bir modele göre optimize etmiş bir organizasyon, içeride yeterli uzmanlık yoksa ciddi şekilde sekteye uğrayabilir.
Yetenekli bir ekip, şunları yaparak bu riski azaltabilir:
- Sistemin nasıl çalıştığını anlamak
- Yeni model sürümlerini değerlendirmek
- Değişiklikleri üretime almadan önce test etmek
- Çıktı kalitesini izlemek
- İstemleri ve iş akışlarını uyarlamak
- Alternatif modelleri karşılaştırmak
- Tek bir satıcıya olan bağımlılığı azaltmak
Bir model çok pahalı, güvenilmez veya uygunsuz hale geldiğinde, ekip minimum aksaklıkla geçiş yapabilmelidir.
Bu yetenek olmadan, organizasyon yapay zeka ile güçlenmiş olmaz.
Ona bağımlı hale gelir.
Tam Otomasyon Yeni Riskler Yaratabilir
İnsanların her rutin adımda yer alması gerekmez.
Ancak insanları bir süreçten sırf otomatikleştirilebiliyor diye çıkarmak, daha tehlikeli bir sistem yaratabilir.
Birçok yapay zeka ürünü, harici modellere, kütüphanelere, API'lere, araçlara, eklentilere ve veri kaynaklarına bağımlıdır.
Bunlardan herhangi biri, aşağıdaki nedenlerle bir başarısızlık noktası haline gelebilir:
- Güvenlik açığı bulunan veya tehlikeye atılmış bir bağımlılık
- Hatalı veya zehirlenmiş veri
- Kötü niyetli bir belge
- İstem sızması (prompt injection)
- Bir jailbreak
- Aşırı izinler
- Hatalı araç kullanımı
- Sistemin güvenle ne yapabileceğinin yanlış anlaşılması
Sorumlu kişi ile yapılan iş arasında ne kadar çok katman varsa, bir şeylerin ters gitme olasılığı da o kadar artar.
Geleneksel yazılım, önceden tanımlanmış talimatları izler.
Yapay zeka sistemleri, talimatları yorumlar.
Bu fark önemlidir.
Girdi doğrulama, erişim kontrolü, günlükleme, izleme, denetleme ve onay iş akışları hâlâ gereklidir. Ancak artık güvenilmeyen dili yorumlayabilen ve bu yoruma dayanarak eylemler gerçekleştirebilen sistemleri hesaba katmaları gerekir.
Cevap, otomasyondan kaçınmak değildir.
Sisteme kimin sahip olduğunu, risklerini kimin anladığını ve bir şey ters gittiğinde kimin sorumlu olduğunu net bir şekilde tanımlamaktır.
Seçim, insanlar ve yapay zeka arasında değildir.
Asıl soru, insan sorumluluğunun nerede kalması gerektiğidir.
Yapay Zeka Tartışmasının Her İki Ucu da Yanıltıcıdır
Bir taraf, yapay zekanın insan emeğini tamamen ortadan kaldıracağını iddia ediyor.
Diğer taraf ise yapay zekanın anlamlı bir etkisinin olmayacağını varsayıyor.
Her iki görüş de fazlasıyla basitleştirilmiştir.
Yapay zeka bazı görevleri otomatikleştirecek, bazı rolleri ortadan kaldıracak, yenilerini yaratacak ve diğerlerini önemli ölçüde değiştirecektir.
Daha önce çok daha büyük ekipler gerektiren işleri, daha küçük ekiplerin yapmasını sağlayacaktır.
Ancak bu, insanları daha az önemli kılmaz.
Kalan insanlara daha fazla sorumluluk verir.
Yapay zeka işleri daha hızlı ve daha ucuz hale getirdikçe, muhakemenin değeri artacaktır.
Yapay zeka kararları destekleyebilir ve karar verme sürecinin bazı kısımlarını otomatikleştirebilir. Ancak sorumluluk ve hesap verebilirlik basitçe bir modele devredilemez.
İnsan Sermayesi, İşleri Olduğu Gibi Korumakla İlgili Değildir
İnsanlara yatırım yapmak, mevcut her rolü, süreci veya çalışma şeklini korumak anlamına gelmez.
Yeni koşullara uyum sağlayabilen ve organizasyonun uzun vadeli başarısına katkıda bulunabilen insanlar yetiştirmek anlamına gelir.
En değerli insanlar, sadece mevcut işleri otomasyondan en güvenli görünenler olmayabilir.
Bunlar, aşağıdakileri birleştirebilen kişiler olabilir:
- Alan bilgisi
- Örgütsel bağlam
- Müşteri anlayışı
- Teknik yetenek
- Sağlam muhakeme
- Risk farkındalığı
- Yapay zekayı etkili kullanma becerisi
Organizasyonlar sadece şunu sormamalıdır:
“Yapay zeka ile kaç kişinin yerini alabiliriz?”
Ayrıca şunları da sormalıdırlar:
- Yapay zeka, insanlarımızın işlerinde daha iyi olmalarına nasıl yardımcı olabilir?
- Hangi örgütsel bilgiyi korumalıyız?
- Sistemi bir bütün olarak kim anlıyor?
- Gerektiğinde zor yargı kararlarını kim verebilir?
- İnsanlar, yapay zeka tarafından üretilen önerileri nasıl değerlendirecek?
- Yapay zeka bir eylem gerçekleştirdiğinde sorumluluk nasıl atanacak?
- Teknoloji değiştiğinde ekiplerimizin uyum sağlayabilmesini nasıl garanti ederiz?
Bu sorular, yapay zekanın kısa vadeli bir verimlilik aracı mı yoksa uzun vadeli bir organizasyonel yetenek mi olacağını belirler.
Asıl Avantaj
Yapay zeka, rutin işlerin değerini azaltırken muhakemenin değerini artırabilir.
Bazı rolleri gereksiz kılabilir, ancak aynı zamanda doğru insanları çok daha yetenekli hale getirebilir.
Yapay zekadan en çok faydalanan organizasyonlar, mümkün olduğunca otomatikleştirenler olmayacaktır.
İnsanlarını daha etkili kılmak için yapay zekayı kullanacaklardır.
Hız, tutarlılık ve ölçeğin önemli olduğu işleri otomatikleştireceklerdir.
Bağlam, risk, muhakeme ve hesap verebilirliğin önemli olduğu yerlerde net insan sahipliğini koruyacaklardır.
İnsanlar, yapay zekanın güvenilir bir şekilde gerçekleştirebileceği işleri yaparak vakit harcamamalıdır.
Aynı zamanda, yapay zeka, insan bağlamı, sorumluluğu veya hesap verebilirliği gerektiren kararları vermeye bırakılmamalıdır.
Bu sınırın nerede olduğunu bilmek, her zaman bir insan sorunu olarak kalacaktır.
Herkes yapay zekaya erişebildiğinde, modelin kendisi avantaj olmayacaktır. Bunu nasıl, nerede ve ne zaman kullanacağını bilen insanlar avantaj olacaktır.
