Usage of capsule networks for the detection of eye retinal diseases

Sieci kapsułowe są jednym z kierunków w jakim może potoczyć się ewolucja sieci splotowych.Jak wykazano w pracach wprowadzających koncept kapsuł i sieci kapsułowych, wykorzystanie kapsuł umożliwia uzyskanie lepszych wyników niż klasyczne sieci splotowe w przypadku klasyfikowania zbiorów MNIST i smallNORB.Otwartym pytaniem pozostawała zasadność wykorzystania tej architektury w rozwiązywaniu rzeczywistych medycznych problemów.W poniższej pracy podjęto próbę zastosowania sieci kapsułowej w celu sprawdzenia jej przydatności w analizie medycznej skanów siatkówki oka wykonanych metodą OCT.W tym celu wykorzystano zbiór skanów OCT złożony ze skanów trzech różnych chorób oraz skanów zdrowego oka.Model sieci kapsułowej wykorzystujący algorytm trasowania EM oraz warstwy kapsułowe i splotowo-kapsułowe zbudowano z wykorzystaniem języka Python oraz bibliotek Keras i Tensorflow.Model oraz jego hiperparametry zostały zoptymalizowane pod kątem wspomnianego problemu.Następnie wytrenowano kilka modeli kapsułowych oraz kilka modeli splotowych które miały posłużyć za punkt odniesienia i porównano wyniki jakie osiągają te modele.Ze względu na wysokie wymagania obliczeniowe podczas trenowania sieci zastosowano architekturę PLGrid oraz superkomputer Prometheus wyposażony w karty graficzne Tesla V-100.Główną metryką jakiej użyto do porównania sieci jest średnia harmoniczna pierwszego rzędu (ang. f1 score).Wyniki uzyskiwane przez sieci kapsułowe były znacznie lepsze niż te osiągnięte przez podobnie skomplikowane sieci splotowe, nawet jeśli sieć kapsułowa była szkolona z użyciem mniejszego zbioru treningowego niż w przypadku sieci splotowej.Ponadto, sieci kapsułowe znacznie lepiej generalizowały klasy, a problem przeuczania się do zbioru treningowego był praktycznie nie dostrzegalny.Modele sieci kapsułowych zyskiwały znacznie więcej na zwiększaniu ilości danych treningowych niż porównywane modele splotowe.Uzyskane wyniki były obiecujące i wskazywały na zasadność dalszych badań nad rozwojem sieci kapsułowych

Capsule networks are one of the directions of the evolution of convolutional networks.It was already shown in papers that were introducing the concept of the capsule and the capsule networks that this kind of architecture can achieve better than the current state-of-the-art performance while working on MNIST and smallNORB set classification.There is still an open question about the actual application of the capsule network architecture in solving real-life medical problems.This thesis aimed to use the capsule network and apply it to perform medical analysis of retinal OCT scans.The dataset contained OCT scans of three different retinal diseases and scans of a healthy eye.A capsule network model was created that would utilize EM routing algorithm together with capsule and convolutional-capsule layers.It was build using the Python language along with Keras and Tensorflow frameworks.The model and its hiperparameters was optimized to perform best in analyzed problem.Next, several capsule models were trained, along with a few convolutional models that were meant to be used as a reference point.Due to high computational requirements of the capsule networks the calculations were made using PLGRID architecture and the Prometheus supercomputer that is utilizing Tesla V-100 GPUs.The F1 score metric was used for the comparison of achieved results.Capsule networks results surpassed those achieved by convolutional reference models of similar complexity, even if the capsule network was being trained using a smaller dataset than in the case of the reference model.Capsule networks seemed to generalize much better than the convolutional network and the problem of overfitting was virtually not existing.Compared to convolutional networks, the capsule ones where exhibiting much better results when the number of the training examples was increased.Gathered results were promising and pointing in favour of a further research on capsule networks development.