Bir şirket yapay zekâya iş devrederken en çok bir şeyden çekiniyor: kontrolü kaybetmekten. Aşağıdaki ilkeler, kurduğumuz her sistemin sözleşmesine ve teknik tasarımına giren kurallar. Bir müşteri bunlardan birinden vazgeçmemizi isterse işi almıyoruz.
İnsan onayı
Müşteriye giden ilk mesajlar, ödeme, iade, silme, sözleşme ve fiyat gibi geri dönüşü zor ya da maliyetli işlemler varsayılan olarak bir kişinin onayına düşer. Sistem zamanla güven kazandıkça hangi adımların onaysız yürüyebileceğine müşteri karar verir. Bu karar yazılı olarak kayda geçer.
Şeffaflık
Bir asistanla konuşan kişi, bir yapay zekâyla konuştuğunu bilir. Bunu gizleyen bir sistem kurmayız. Kişi istediği anda bir insana bağlanabilir.
Veri ve sahiplik
Müşterinin verisi müşterinin kendi hesaplarında ve sunucularında tutulur. Kaynak kod, ayarlar, istemler ve belgeler teslimde müşteriye geçer. Model servisi kullanılırken veriyi saklamayan ve eğitimde kullanmayan kurumsal sözleşmeler tercih edilir. Hassas veri olduğunda model müşterinin kendi sunucusunda çalıştırılabilir.
Kaynak gösterme
Belgelerden cevap veren sistemlerde her cevabın hangi belgeden geldiği görünür. Kaynak bulunamadığında sistem tahmin yürütmez, bulamadığını söyler.
Ölçmeden söz vermemek
Bir sistemin ne kadar zaman ya da para kazandıracağını önceden rakamla vaat etmeyiz. Kurulumdan önce bugünkü durumu ölçer, sonra aynı yöntemle raporlarız. Örnek verirken gerçek bir proje mi temsilî bir senaryo mu olduğunu yazarız.
Güvenlik
Sistemler yalnız gereken yetkiyle çalışır. Veritabanına okuma yetkisi yetiyorsa yazma yetkisi verilmez. Her işlem kayıt altına alınır. Kişisel veriler KVKK'ya uygun işlenir, özel nitelikli veriler için ek önlem alınır.
Yapmadığımız işler
Teşhis koyan, hukuki görüş veren, kredi ya da işe alım kararını tek başına veren sistemler kurmayız. Bu alanlarda yapay zekâ ancak bir uzmanın işini hızlandıran bir yardımcı olabilir. Kişileri izinsiz izleyen, sahte yorum ya da sahte hesap üreten, insanları yanıltmak için tasarlanmış sistemler de kurmayız. Yapay zekâ asistanlarında önerilme garantisi satmayız, çünkü bunu verebilecek kimse yok.
Kendi kullanımımız
Bu ilkeleri önce kendi işlerimizde uyguluyoruz. Kampyeri'deki içerik hattında yayın kararı bir insanda; bu sitedeki metinler de yayından önce bir kişi tarafından okunuyor.