Otonom sürüş birçok endüstriyel sektörde hayati bir rol oynamaktadır. Yolcu taşımacılığından otomatik tarım ve ulaşıma kadar, maliyetlerden ve özellikle kaynaklardan tasarruf etmek amacıyla birçok uygulama alanında bulunmaktadır. Hemen hemen tüm durumlarda, aracın mevcut durumunu değerlendirmek ve böylece davranışını etkilemek için video ve sensör tabanlı sistemler kullanılır. Örneğin, yüksek kaliteli çim biçme makinesi robotları, çevredeki hayvanları ve çocukları tanıyabilen ve onlardan akıllıca kaçınabilen kamera sistemlerine sahiptir.

Yolcu sektöründe, kendi kendini süren arabalar, kişisel ulaşımın geliştirilmesinde bir sonraki aşama olarak görünmektedir. Pek çok ülkede otonom olarak araba kullanılmasına henüz izin verilmese de, kendi kendini süren arabalar giderek daha popüler hale geliyor. Otonom sürüşlü araçlarla ölümlü kazalarla ilgili haberler medyada yer almaktadır. Yine de otomobil endüstrisi, yakında otonom sürüş sistemlerinin güvenlik açısından insan sürücülerden hiçbir şekilde daha aşağı olmayacağını vaat ediyor.

Ancak otonom sürüş sistemleri güvenli olsa bile kazaların kaçınılmaz olduğu durumlar olabiliyor.

Kazaların kaçınılmaz olduğu 13 aşırı durumu belirlemek için web sitesini kullanın: www.moralmachine.net

1. Her durumu birkaç kelimeyle açıklayın.
2. Her durumda nasıl tepki verdiniz ve neden?
3. Kazaların kaçınılmaz olabileceği durumları formüle etmeye çalışın ve otonom sürüş araba kararının etik bir çatışma içerdiğini görün.
4. Sizce bu soruna mükemmel (yani nesnel) bir çözüm var mı? Evet ise, bu sorunu çözen bir algoritma yazın. (İşlevleri senaryo I/II, ölüm sayısı, yaş, cinsiyet, yanlış davranış ve sosyal durum olarak tanımlayabilirsiniz: Örneğin: Eğer (if) ölümler (senaryo 1) < ölümler (senaryo 2), o zaman senaryo 1'i kullanın, yoksa…

Her durumda, maddi veya insani zarar ve hatta ölüm vardır. Basitleştirilmiş olarak, iki farklı olasılığın (örneğin; yaşlı kadına karşı küçük çocuğu seçmek) olduğu varsayılır. Kayıplar sayı, yaş, sosyal statü ve ilgili kişilerin davranışları bakımından farklılık gösterir.

Kendi kendini süren bir arabanın durumu "nesnel" olarak değerlendirdiği, insanların en azından kendini koruma içgüdüsü nedeniyle kendi hayatlarını koruyacakları varsayılabilir. Durumun "nesnel" bir değerlendirmesi için yaş, sosyal statü, cinsiyet vb. gibi faktörlerin ağırlıklandırılması/ölçeklendirilmesi gerekir (eğer bunlar kaydedilebiliyorsa). Yani sübjektif tanımlar durumun sonucuna karar verir.

Her senaryo elemanına bir değer atanır (örneğin; 32 yaşındaki bir kadının kaybı 100 puan verir). Durumun matematiksel değerlendirmesi sonucu belirler.

Örneğin, i ölü kişinin bulunduğu bir duruma şu değer atanabilir

değer(durum)= 1/(yaş_1 )+...+1/(yaş_i) 

i ölü kişinin olduğu bir duruma. O zaman sürücüsüz araç için talimat şöyle olacaktır:
Eğer
     Değer(Durum 1)>Değer(Durum 2)
Sonra
    uygulamak (Durum 1)
Başka
    uygulamak (Durum 2)

Böyle bir değerlendirme objektif olamaz. Birincisi, çünkü tüm faktörler asla dikkate alınamaz ve ikincisi, farklı insan yaşamlarının değeri objektif olarak karşılaştırılamaz. Öte yandan otonom bir araç çalışmayı yarıda bırakamayacağı için böyle bir değerlendirme de yapılmalıdır.

İlk olarak hangi hastanın ameliyat edileceğine karar verirken tıpta da benzer bir durum vardır.

Bu konu, örneğin bir mini bilgisayar (örneğin; Raspberry Pi) yardımıyla otonom bir sürüş aracı inşa ederek, sürücüsüz arabalar konulu bir öğretim ünitesine yerleştirilebilir.

Entegre bir kamera yardımıyla durum basitleştirilmiş bir şekilde simüle edilebilir. Kırmızı ve yeşil küreler sırasıyla genç ve yaşlı insanları temsil etmektedir. Araç bir parkurdan geçmeli ve ahlaki açıdan en iyi yolu bulmalıdır.Kırmızı ve yeşil toplar opencv.org yardımı ile tanımlanabilir.