Content uploaded by Berna Arı
Author content
All content in this area was uploaded by Berna Arı on Oct 29, 2019
Content may be subject to copyright.
Yerel Alıcı Alanlar Aşırı Öğrenme
Makinesi ile Kayısı Yaprağı Tanıma
Local Receptive Fields Extreme Learning Machine for Apricot leaf recognition
Berna ARI1
Doğanşehir Halk Eğitim Merkezi,
M.E.B.,
Malatya, TÜRKİYE
bernagurler.a@gmail.com
Abdulkadir ŞENGÜR2
Teknoloji Fakültesi
Elektrik - Elektronik Mühendisliği Bölümü
Fırat Üniversitesi
Elazığ, Türkiye
ksengur@firat.edu.tr
Ali ARI3
Sürgü Meslek Yüksekokulu
Bilgisayar Teknolojileri Bölümü
İnönü Üniversitesi
Malatya,Türkiye
ali.ari@inonu.edu.tr
Özetçe—Bu makalede, yerel alıcı alanlar aşırı
öğrenme makinesi (YAA-AÖM) ile yaprak tanıma
gerçekleştirilmiştir. Yaprak tanıma, görüntü işleme
ve makine öğrenmesi alanlarında önemli bir
uygulamadır. Evrişimsel sinir ağları (ESA)
kullanılarak başarılı yaprak tanıma uygulamaları
mevcuttur. Ancak ESA’nın eğitim süresinin zaman
alması ve eğitim sürecinde çözümün tek noktada
takılma ihtimali önemli dezavantajlarındandır.
Aşırı öğrenme makinesi (AÖM), geriye yayılım
algoritmasının bazı dezavantajlarını gidermek için
önerilmiş, giriş ağırlıkları rastgele çıkış ağırlıkları
ise analitik olarak hesaplanan tek gizli katmanlı ileri
beslemeli bir YSA modelidir. AÖM, öğrenme
sürecinin hızlı olması ve işlem karmaşıklığının az
olması gibi önemli avantajlara sahiptir. Yerel alıcı
alanlar (YAA) bilgisinin AÖM içine entegre
edildiği YAA-AÖM yapısı, Evrişimsel Sinir
Ağlarına alternatif bir model olarak önerilmiştir. Bu
çalışmada, YAA-AÖM ile yaprak tanıma işlemi
yapılmıştır. Farklı türdeki kayısı yapraklarının
görüntüleriyle oluşturduğumuz veri seti
kullanılmıştır. Yapılan deneysel çalışmalar, YAA-
AÖM’nin yaprak tanımada başarılı olduğunu
göstermiştir.
Abstract—In this paper, leaf identification is
achieved with the local receptive fields based
extreme learning machine(LRF-ELM). Leaf
identification is an important application in image
processing and machine learning areas. Successful
leaf identification applications are available by
using convolution neural networks (ConvNet).
However, as the training period of ConvNet takes
time and the possibility of solution in training
process may come to a deadlock in one point, these
are some of the important disadvantages of
ConvNet. Extreme learning machine (ELM) is the
only hidden layer feedforward ConvNet model
which is proposed to resolve some of the
disadvantages of backpropagation algorithm whose
input weights are randomly calculated while output
weights are analytically calculated. ELM has major
advantages such as having quicker learning process
and less process complexity. The structure of LRF-
ELM in which the information of local receptive
fields is integrated into the ELM is proposed as an
alternative model to the convolutional neural
networks. In this paper, leaf identification process
is carried out with LRF-ELM. Data sets created
with the images of different types of leaves of
apricots are used. Conducted experimental studies
indicate that LRF-ELM are successful in leaf
identification.
1. GİRİŞ
Bitkilerin insan hayatındaki önemi
büyüktür. Bitkiler besin sektörü, endüstri ve
medikal alanda kullanılmaktadır. Dünya üzerinde
çok sayıda ve çok fazla çeşitte bitki türü
bulunmaktadır. Bitki sınıflandırması uzmanlar
tarafından geleneksel metotlar ve DNA analizi gibi
yöntemler ile yapılmaktadır. Yapay zekânın
gelişimine bağlı olarak otomatik bitki tanıma
International Artificial Intelligence and Data Processing Symposium (IDAP'16)
September 17-18, 2016 Malatya/TURKEY
532
sistemleri bitkileri tanımak ve sınıflandırmak için
günümüzde yaygın bir şekilde kullanılmaya
başlanmıştır. Bitki tanıma ve sınıflandırma son
yıllarda popüler bir çalışma haline gelmiş ve birçok
çalışma yapılmıştır.
[1] nolu çalışmada fotoğraf ile ya da video
çerisinden belirlenen 6 türe ait yaprak
görüntülerinden çıkarılan 12 adet özellik K-NN
sınıflandırma algoritması kullanılarak
sınıflandırılmaya çalışılmıştır.
[2] nolu çalışmada Acer (Japon akçaağacı) bitkisine
ait görüntülerin bulunduğu veri tabanındaki 9 cinse
ait resimler kullanılmıştır. Bu resimlerinden merkez
kenar uzunlukları, geometrik öznitelikler ve
istatistiksel öznitelikler yöntemleri kullanılarak
özellik çıkarımı yapılmıştır ve bu özellikler aşırı
öğrenme makineleri ile sınıflandırılmıştır.
[3] nolu çalışmada yeşil çay yaprakları
sınıflandırmak amacıyla örtüşmeyen pencereli LBP
ve GLCM dokusal özelliklerini birleştiren yeni bir
metot önermişlerdir. Bu geliştirilen yöntem ile
sınıflandırma doğruluğu büyük ölçüde artmıştır.
[4] nolu çalışmada bitki yapraklarının doku ve şekil
özelliklerinin birleşimleri kullanılarak yaprakların
karakterize edilmesi ve tanınması için yeni bir
yöntem önerilmiştir. Yaprak dokusu Gabor filtresi
ve GLCM kullanılarak modellenmiştir. Şekil
özellikleri ise değişmez momentum ve Curvelet
transform ile çıkarılmıştır. Daha sonra bu iki özellik
çıkarım birleştirilmiştir. 31 sınıf yaprağın
sınıflandırılması için elde edilen özellikler ile Nöro
Bulanık denetleyici (NFC) ve bir ileri beslemeli
geri yayılım çok katmanlı algılayıcı (MLP)
kullanılmıştır.
[5] nolu çalışmada dijital yaprak görüntülerinden
elde edilen bir dizi istatistiksel özellik kullanılarak
bitki türlerinin tanınması için bir yöntem
önermektedir. Özellik çıkarılan görüntüler Nöro
bulanık sınıflandırıcı kullanılarak önceden
tanımlanmış 32 sınıfa sınıflandırılmıştır.
[6] nolu çalışmada 7 farklı kayısı türü imge işleme
ve derin öğrenme kullanılarak yaprak tanıma
tabanlı sınıflandırılması gerçekleştirilmiştir. Derin
öğrenme yöntemi olarak, 6 katmanlı giriş katmanı,
3 evrişim katmanı ve 2 alt örnekleme katmanı
bulunan Evrişimsel Sinir Ağları (ESA)
kullanılmıştır ve 90,41% bir doğruluk bulmuşlardır.
Evrişimsel sinir ağları mimarisi, giriş
imgesi pikselleri arasındaki uzamsal bilgiyi
kullanmayı amaçlamaktadır. ESA’lar evrişim ve
toparlama olarak adlandırılan iki temel işlemi
kapsamaktadır. Bu işlemler ağın ardışık
katmalarında arka planda çalışmaktadır. Evrişim ve
toparlama işlemleri sayesinde elde edilen özellikler
sınıflandırma başarısını arttırmaktadır. ESA’nın en
büyük dezavantajları, eğitim sürecinin uzun olması
ve eğitim esnasında tek bir çözüme takılabilme
problemlerinin yaşanmasıdır. Aşırı öğrenme
makinesi (AÖM), geriye yayılım algoritmasının bazı
dezavantajlarını gidermek için önerilmiş son
yıllardaki çalışmalarda sıkça kullanılan bir
sınıflandırma yöntemidir [7]. AÖM, öğrenme
sürecinin hızlı olması ve işlem karmaşıklığının az
olması gibi önemli avantajlara sahiptir. Yerel alıcı
alanlar (YAA) bilgisinin AÖM içine entegre edildiği
YAA-AÖM yapısı, ESA’ya alternatif bir model
olarak önerilmiştir [8].
Bu çalışmada AÖM-YAA yapısı kullanılarak
yaprak tanıma işlemi gerçekleştirilmiştir. Farklı
türdeki kayısıların yapraklarının görüntüleriyle
oluşturduğumuz veri seti kullanılmıştır.
Gerçekleştirilen deneysel çalışmalarda alınan
sonuçların başarılı ve umut verici olduğu
gözlemlenmektedir.
2. AŞIRI ÖĞRENME MAKİNESİ (AÖM)
Aşırı öğrenme makinesi, Huang ve arkadaşları
(2006) tarafından geliştirilmiştir. AÖM giriş
ağırlıkları rastgele çıkış ağırlıkları ise analitik olarak
hesaplanan tek gizli katmanlı ileri beslemeli bir
YSA modelidir. AÖM de gizli katmanda sigmodial,
Guassian ve hard-limitin gibi aktivasyon
fonksiyonları kullanılırken çıkış katmanda doğrusal
fonksiyon kullanılmaktadır. AÖM hızlı öğrenebilme
yeteneğinin yanında geleneksel geri yayılım
algoritması ile öğrenen ileri beslemeli ağlara göre
daha iyi genelleme başarımına sahiptir. AÖM’nin
öğrenme algoritması aşağıdaki gibi tanımlanır;
Belirli bir N girdi-çıktı ilişkisi xi ve ti
parametreleri kabul edilsin. Burada xi,
ve ti ise
şeklinde ifade edilir.
tane gizli sinir hücresi ve g(x) aktivasyon
fonksiyonuna sahip standart Tek Gizli Katmanlı ve
İleri Beslemeli (TGKIB) ağ modeli matematiksel
olarak aşağıdaki gibi modellenir:
(1)
Burada , i’ninci gizli
katman sinir hücresine ve giriş sinir hücresine bağlı
olan ağırlık vektörüdür, ise
i’ninci gizli sinir hücresine ve çıkış sinir hücrelerine
bağlı olan ağırlık vektörüdür. ise i’ninci gizli sinir
hücresinin eşik değeridir. ise ve ’nin içsel
çarpımını ifade eder.
tane gizli sinir hücresine ve g(x) aktivasyon
fonksiyonuna sahip standart TGKIB ortalama sıfır
hataya yaklaşabilir,
, , ve
arasındaki ilişki aşağıdaki eşitlikte verilmiştir;
(2)
Denklem 2’de verilen N tane eşitlik, Denklem
3’deki gibi kısaltılabilir:
(3)
International Artificial Intelligence and Data Processing Symposium (IDAP'16)
September 17-18, 2016 Malatya/TURKEY
533
Burada;
ve
(5)
Sinir ağının gizli katmandaki çıkış matrisi H diye
adlandırılır ve H’ın i’ninci sütunu
girişlerinin i’ninci gizli sinir hücrelerinin çıkış
vektörüdür.
3. YEREL ALICI ALANLAR AŞIRI ÖĞRENME
MAKİNESİ (YAA-AÖM)
YAA-AÖM yeni bir derin öğrenme kavramı olup,
temel olarak birbirinden bağımsız iki farklı yapıyı
bünyesinde barındırmaktadır [10]. Bu yapılardan
ilkini, öğrenmenin olmadığı, evrişim ve toparlama
süreçlerinin olduğu yapı oluşturmaktadır. İkinci
yapı ise en küçük kareler çözümü ile β’nin analitik
hesaplanması aşamasıdır. Birinci yapıda kullanılan
toparlama için kare/karekök işlevi kullanılmaktadır.
a) Birinci yapı: Daha öncede belirtildiği gibi
bu bölümde herhangi bir öğrenme olmamaktadır.
Diğer bir ifade ile bu bölümde ağırlık yenilenmesine
ihtiyaç duyulmamaktadır. Kullanılan K adet evrişim
filtresinin katsayıları başlangıçta rasgele seçilir.
Eğer öznitelikleri çıkarılacak giriş imgesinin boyutu
dxd ve evrişim filtresi boyutu rxr ise, evrişim
katmanı sonunda (d-r+1)x(d-r+1)xK boyutlu
öznitelik haritası elde edilir. Toparlama katmanında,
verilen bir pencere boyutunda öznitelikler toparlanır.
b) İkinci yapı: Bir önceki yapıda her bir giriş
imgesi için elde edilen öznitelikler bir matriste
birleştirilerek eğitim veri seti elde edilmişti. Bu
yapıda ise sadece AÖM’nin gizli katman ile çıkış
arasındaki ağırlık vektörü β’nin analitik olarak
hesaplanmasını gerektirir. Diğer bir ifade ile önceki
aşamada elde edilen öznitelik matrisi,
matrisi olarak kabul edilir ve β
analitik olarak şöyle hesaplanır;
Burada T, eğitim veri seti için sınıf etiketlerini, I
birim matrisi ve C ise regülasyon katsayısı olarak
adlandırılır.
4. DENEYSEL ÇALIŞMALAR
YAA-AÖM yapısının yaprak sınıflandırma
başarımının değerlendirmesi için bilgisayar ortamında bir
dizi deneysel çalışmalar yapılmıştır. Çalışma için
Malatya ilinde bulunan Gıda Tarım ve Hayvancılık
Bakanlığına bağlı Kayısı Araştırma Enstitüsü Müdürlüğü
bahçesinde yetişen kayısı türüne ait 7 farklı genotip için
veri tabanı oluşturulmuştur. Bu türler sırası ile Apikoz
Şalak, Çataloğlu, Çekirge iz, Hacıkızı, Hırmanlı, Paviot
ve Tokatoğlu Erzincan’dır. Şekil 1’de her bir türe ait bir
resim verilmiştir. Bu genotiplere ait ağaçlardan
olgunlaşmış yapraklar ziraat mühendisi ile birlikte
toplanarak görüntüleri veri tabanına kaydedilmiştir. Her
yaprak, beyaz bir fon üzerine farklı açılarla yerleştirilmiş
ve sabit 30 cm yükseklikten görüntüleri alınarak veri
tabana kaydedilmiştir.
Şekil 1. Kullanılan kayısı yaprağı imgeleri, a)Apikoz
Şalak, b)Çataloğlu, c)Çekirge iz, ç)Hacıkızı, d)Hırmanlı,
e)Paviot ve f)Tokatoğlu Erzincan
Çalışmada 7 türe ait toplam 357 adet imge kullanılmıştır.
Bu imgelerden rasgele seçilen 210 adedi YAA-AÖM’nin
eğitiminde, geri kalan 146 adet imge ise YAA-AÖM’nin
başarım testinde kullanılmıştır. Kullanılan bütün imgeler
ilk önce gri tona çevrilmiş ve 32x32 boyutuna yeniden
boyutlandırılmıştır. YAA-AÖM’nin ayarlanabilir 4
parametresi mevcuttur. Bunlar sırası ile evrişim filtresi
boyutu r, evrişim filtresi sayısı K, toparlama boyutu ve C
regülasyon katsayısıdır. K değeri 10, evrişim filtresi
boyutu 3, toparlama filtresi boyutu 2 olarak
belirlenmiştir. Şekil 2 ve 3’de sırası ile evrişim katmanı
ve toparlama katmanı sonrasında elde edilen öznitelik
haritaları gösterilmiştir.
Şekil 2. Evrişim sonrası öznitelik haritaları
International Artificial Intelligence and Data Processing Symposium (IDAP'16)
September 17-18, 2016 Malatya/TURKEY
534
Şekil 3.Toparlama sonrası öznitelik haritaları
Yapılan deneylerde en iyi regülasyon katsayısının 5 olduğu
görülmüştür. Ayrıca yığın boyutu 50 olarak seçilmiştir.
Deneysel çalışmalar Matlab ortamında gerçekleştirilmiş olup,
97,26% bir doğruluk başarımı elde edilmiştir. Her bir sınıfa
ait sınıflandırma başarımları Tablo 1’de verilmiştir.
Gerçek
Api
Çat
Çek
Hac
Hır
Pav
Tok
Tahmin Edilen
Api
19
1
0
0
0
0
0
Çat
0
34
0
0
0
0
0
Çek
0
0
12
0
0
0
0
Hac
0
0
0
22
0
0
0
Hır
0
0
0
0
10
0
0
Pav
0
0
0
0
0
23
0
Tok
0
0
2
0
0
1
22
Tablo 1.Sınıflandırma başarıları
5. SONUÇLAR
Bu çalışmada YAA-AÖM yapısı ile yaprak tanıma
gerçekleştirilmiştir. Yöntem, ESA ile
karşılaştırıldığında daha basit ve daha kullanışlıdır.
Eğitim süreci herhangi bir iterasyon gerektirmediği için
zaman almamaktadır. Öğrenilmesi gereken parametre
sayısı olarak da düşünüldüğünde yine önemli avantajlar
sunmaktadır. Önceki çalışmada farklı kayısı türleri,
derin öğrenme mimarilerinden ESA kullanılarak
yaprak tanıma tabanlı sınıflandırılması
gerçekleştirilmiş ve 90,41% bir doğruluk bulunmuştur.
YAA-AÖM yapısı ile yaprak tanıma aynı veri setine
uygulanmış ve 97,26% bir doğruluk elde edilmiştir.
Elde edilen sonuçlardan, YAA-AÖM yapısının nesne
tanıma uygulamalarında kullanılabilecek önemli bir
araç olduğu sonucu çıkarılmıştır.
Teşekkür: Yapılan çalışma, Fırat Üniversitesi Bilimsel
Araştırma Projeleri Koordinasyon Birimi Tarafından
TEKF.16.03 nolu proje ile desteklenmiştir.
6. KAYNAKLAR
[1] Kır B., Öz C., Gülbağ A., “Leaf recognition using K-
NN classification algorithm”, 2012 20th Signal
Processing and Communications Applications
Conference (SIU), 1 – 4, 18-20 April 2012, Mugla.
[2] Türkoğlu M., Alçin Ö.F., Üstündağ M., Hanbay D.,
“Leaf Recognition and Classification Based On
Geometric and Statistical Features”, International
Conference on Natural Science and Engineering
(ICNASE’16), March 19-20 2016, Kilis.
[3] Tang Z., Su Y., Er M.J., Qi F., Zhang L., Zhou J., “A
local binary pattern based texture descriptors for
classification of tea leaves”, Neurocomputing 168
(2015) 1011–1023.
[4] Chaki J., Parekh R., Bhattacharya S., “Plant leaf
recognition using texture and shape features with
neural classifiers”, Pattern Recognition Letters 58
(2015) 61–68.
[5] Chaki J., Parekh R., Bhattacharya S., “Recognition of
whole and deformed plant leaves using statistical
shape features and neuro-fuzzy classifier”, Recent
Trends in Information Systems (ReTIS), 2015
IEEE 2nd International Conference on, 189 – 194, 9-
11 July 2015, Kolkata.
[6] Ari, B., Sengur, A., Ari, A., Hanbay D., “Apricot
Plant Classification Based On Leaf Recognition by
Using Convolutional Neural Networks”, International
Conference on Natural Science and Engineering
(ICNASE’16), March 19-20 2016, Kilis.
[7] Huang, G.-B., Zhu, Q.-Y. ve Siew, C.-K., “Extreme
learning machine: theory and applications”,
Neurocomputing, Cilt 70, No 1, 489-501, 2006.
[8] G.-B. Huang, Z. Bai, L. L. C. Kasun, and C. M.
Vong, “Local receptive fields based extreme
learning machine,” IEEE Computational Intelligence
Magazine, vol. 10, pp. 18–29, 2015.
[9] Huang, G.-B., Zhu, Q.-Y., & Siew, C.-K. (2006).
Extreme Learning Machine: Theory and
Applications. Neurocomputing, 70, 489-501.
International Artificial Intelligence and Data Processing Symposium (IDAP'16)
September 17-18, 2016 Malatya/TURKEY
535
