Comparison of three methods for neurofuzzy model initialization and their application to circuit performance modeling

摘要

W pracy zaprezentowano i eksperymentalnie porównano trzy metody inicjacji parametrów modeli neurorozmytych. Pierwszą z rozważanych metod jest charakterystyczna dla sieci neuronowych inicjacja losowa. Wyniki uzyskane na bazie tej metody są porównywane z wynikami uzyskanymi z wykorzystaniem tzw. metody inicjacji pseudo-losowej. Ta druga, alternatywna metoda wykorzystuje losowo wybrane ze zbioru uszącego punkty uczące, które inicjują parametry odpowiedzialne za rozmieszcznie funkcji przynależności definiujących poszczególne etykiety lingwistyczne występujące w regułach rozmytych. Podejście takie jest możliwe, ponieważ wspomiane parametry posiadają swoją interpretację fizyczną. Prezentowane wyniki pokazują, iż średnie wyniki uzyskane metodą inicjaji pseudo-losowej przewyższają swoje odpowiedniki uzyskane metodą inicjacji losowej. Co więcej, występujące dla modeli posiadających dużą liczbę parametrów ponaddopasowanie do danych uczących, może zostać częściowo zredukowane lub nawet wyeliminowane przy użyciu metody pseudo-losowej. Trzecią metodą rozważaną w pracy jest metoda oparta na górskim grupowaniu danych. Eksperymenty pokazały, iż metoda ta może dać lepsze wyniki niż metody wspomiane powyżej. Należy jednak podkreślić, iż jakość wyników uzyskiwanych tą metodą silnie zależy od wartości dwóch parametrów, które nią sterują. Niestety, mimo przeprowadzenia licznych prób nie udało się ustalić optymalnych wartości tych parametrów.%In the paper three methods of neurofuzzy model initialization are presented and experimentally verified. The first of these methods, which is typical for neural network, is the random initialization. As the second method, so-called pseudo-random initialization is proposed. This method in a simple way makes use of the available training set: the randomly chosen training points initialized model parameters responsible for the distribution of the membership function which define the linguistic labels of fuzzy rules. Such an approach is possible bacause of the physical interpretation of the model parameters. The presentd experimental results show that average results obtained using the quasin-random parameter initialization overperform corresponding results obtained using the random initialization. Moreover, the quasi-random initialization can reduce or even eliminate an overfilling to the training data, which can appear for models having big number of parameters. As the third method the mountain clustering-based initialization is considered. The experiments show that this method can give better results than the mentioned random and quasi-random method. However, the results of this method heavily depend on the values of two parameters, which control the process of the clustering. Unfortunately, the performed expreiments have not provided the optimal values of these parameters.