$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
W tej sekcji opisano kompletny potok głębokiego uczenia z ograniczeniami fizycznymi do oceny stanu termicznego z wykorzystaniem obrazowania termowizyjnego w podczerwieni. Struktura ta integruje (i) ekstrakcję pola temperatury, (ii) regresję opartą na bazowej sieci CNN, (iii) regularyzację fizyczną opartą na dyfuzji, (iv) adaptacyjne uczenie parametrów oraz (v) kwantyfikację niepewności. Wszystkie narzędzia wykorzystane w tej badaniu opisano w Tabeli Materiałów.
Pozyskiwanie obrazów termicznych i konstrukcja pola temperatury
Obrazy w podczerwieni (IR) urządzeń energetycznych wysokiego napięcia pozyskano za pomocą skalibrowanej kamery termowizyjnej. Każdy obraz przekształcono w przestrzenną macierz temperatury T(x, y) ∈ ℝH×W, mapując intensywność pikseli na fizyczne wartości temperatury (°C) przy użyciu parametrów kalibracji radiometrycznej kamery. Rycina 1A–C przedstawia wizualizację temperatury. Oryginalny obraz IR zostaje przekształcony w fizycznie znaczącą mapę temperatury. Histogram wykazuje skośny rozkład temperatury z koncentracją w przedziale 50–90 °C. Wyraźnie widoczne są zlokalizowane strefy wysokiej temperatury (punkty przegrzania). Rycina 2 przedstawia trójwymiarową reprezentację powierzchniową pola temperatury. Wykres 3D powierzchni ujawnia strome gradienty wokół obszarów punktów przegrzania. Szczyty temperatury sięgają ~120 °C. Pole termiczne jest przestrzennie gładkie, z wyjątkiem okolic przewodów pod napięciem i złączy przyłączeniowych. Charakterystyka ta uzasadnia zastosowanie termu regularyzacji opartego na dyfuzji w celu wymuszenia fizycznej gładkości przy jednoczesnym zachowaniu lokalnych zjawisk o wysokim gradiencie.

Rysunek 1: Wizualizacja temperatury. (A) Oryginalny termograficzny obraz w podczerwieni (IR) badanego urządzenia wysokiego napięcia, przedstawiający zaobserwowany wzorzec termiczny. (B) Wyekstrahowana mapa temperatury uzyskana z obrazu termograficznego, ilustrująca przestrzenny rozkład temperatur powierzchniowych i powiązane z nimi gradienty termiczne. (C) Histogram rozkładu temperatury przedstawiający rozkład częstości wartości temperatury w wyekstrahowanym polu temperaturowym. Rysunek ten demonstruje konwersję obrazu termograficznego w ilościową reprezentację temperatury i podsumowuje podstawowy rozkład temperatury wykorzystany do późniejszego opracowania modelu i analizy. Skróty: IR = podczerwień. Kliknij tutaj, aby wyświetlić powiększoną wersję tego rysunku.

Rysunek 2: Trójwymiarowa reprezentacja wysokości powierzchni termicznej pola temperatury. Trójwymiarowa wizualizacja rozkładu temperatury, w której wysokość powierzchni odpowiada wartości temperatury i uwydatnia lokalne punkty przegrzania (hotspoty). Aby zobaczyć powiększoną wersję tego rysunku, kliknij tutaj.
Sformułowanie problemu
Niech

oznaczają obraz termograficzny w podczerwieni RGB, gdzie H i W reprezentują wymiary przestrzenne, a C = 3 odpowiada kanałom kolorystycznym powiązanym z tęczową paletą termiczną. Choć obraz podczerwieni wizualnie reprezentuje informacje termiczne, nie jest on bezpośrednią numeryczną macierzą temperatur, ponieważ wyświetlane kolory zależą od mapowania palety, skalowania, interpolacji oraz warunków obrazowania.
Niech

oznaczają odpowiadające im pole temperatur rzeczywistych, uzyskane poprzez kalibrację radiometryczną i ekstrakcję temperatury z systemu obrazowania w podczerwieni.
Celem nauczania jest przybliżenie odwzorowania

gdzie θ oznacza parametry trenowalne sieci CNN, a T̂ reprezentuje przewidziane pole temperatury. Celem tego nadzorowanego odwzorowania nie jest jedynie odtworzenie bezpośredniej konwersji radiometrycznej, lecz wyuczenie przestrzennie spójnego modelu regresji temperatury z wyrenderowanych obrazów termograficznych. W przeciwieństwie do bezpośredniej ekstrakcji temperatury z koloru na poziomie poszczególnych pikseli, sieć CNN może wykorzystać kontekstową strukturę termiczną w obszarach sąsiadujących, zmniejszyć podatność na szumy, zachować charakterystykę punktów gorących oraz generować gładsze, fizycznie prawdopodobne pola temperatury przy nałożonych ograniczeniach dyfuzyjnych. Bazowa funkcja celu minimalizuje błąd regresji na poziomie pikseli pomiędzy przewidzianym a skalibrowanym polem temperatury:

gdzie Tij oraz T̂ij oznaczają odpowiednio temperaturę rzeczywistą (ground-truth) oraz przewidywaną w położeniu piksela (i, j). W związku z tym strukturę tę należy interpretować jako model regresji termograficznej z regularyzacją fizyczną, a nie jako zamiennik dla bezpośredniej kalibracji radiometrycznej.
Warunki akwizycji obrazów w podczerwieni
Obrazy termowizyjne w podczerwieni pozyskano za pomocą kamery termowizyjnej FLIR w warunkach eksploatacyjnych zewnętrznej stacji transformatorowej. Zbiór danych składał się z termograficznych obrazów RGB o rozdzielczości przestrzennej 640 × 480 pikseli, zarejestrowanych przy użyciu palety kolorów tęczowej firmy FLIR. Każdy obraz zawierał wbudowany pasek skali termicznej wskazujący zakres temperatur powiązany z klatką akwizycji. Inspekcja termowizyjna objęła wiele kategorii urządzeń wysokiego napięcia, w tym transformatory, przepusty, izolatory, złącza i konstrukcje terminalowe. Obrazy rejestrowano podczas normalnych warunków pracy, aby uwzględnić zarówno standardowe zachowanie termiczne, jak i lokalne wzorce punktów przegrzania (hotspotów) istotne dla zastosowań monitorowania stanu technicznego. Akwizycję obrazów przeprowadzono z praktycznych punktów widzenia inspekcji, typowo stosowanych w termografii terenowej. Orientacja kamery i kąt widzenia różniły się w zależności od dostępności urządzeń i układu stacji. Obrazy termiczne poddano wizualnej weryfikacji, aby upewnić się, że badane urządzenia pozostają wyraźnie widoczne, a obszary hotspotów są odróżnialne od tła. Zbiór danych zorganizowano w folderach z etykietami zgodnie z kategorią urządzenia i stanem termicznym. Przed opracowaniem modelu obrazy zostały poddane segmentacji i zmianie rozmiaru do spójnego formatu przestrzennego w celu ekstrakcji pola temperatury i trenowania sieci CNN. Obrazy termowizyjne zawierają rozkłady termiczne odpowiednie dla badań z zakresu komputerowego wspomagania wzroku (computer vision) i głębokiego uczenia, obejmujących detekcję hotspotów, identyfikację usterek, lokalizację anomalii oraz przewidywanie pola temperatury. W niniejszej pracy profile termiczne wyekstrahowane z obrazów w podczerwieni wykorzystano do estymacji temperatury z ograniczeniami fizycznymi oraz termicznej oceny uwzględniającej niepewność.
Zbiór danych termograficznych i podział danych
Zbiór danych wykorzystany w niniejszym badaniu składał się ze 174 obrazów termograficznych w podczerwieni, pozyskanych z urządzeń stacji wysokiego napięcia za pomocą systemu obrazowania termicznego FLIR15. Zbiór obejmował wiele typów komponentów systemu elektroenergetycznego, w tym transformatory, przelotki, izolatory, złączki oraz konstrukcje terminali wysokiego napięcia pracujące w rzeczywistych warunkach zewnętrznych. Każdy obraz termograficzny przekształcono w przestrzenne pole temperatury, wykorzystując informacje radiometryczne dostarczone przez kamerę podczerwieni. Zbiór danych zawiera wariacje termiczne obejmujące zakres od normalnych warunków pracy do lokalnych obszarów punktów przegrzania związanych z podwyższonym naprężeniem termicznym. Dane podzielono na podzbiory treningowy, walidacyjny i testowy w proporcji 70:15:15, co dało odpowiednio 121, 26 i 27 obrazów. Podział wykonano na poziomie obrazu, ponieważ zbiór danych składał się z niezależnie zarejestrowanych scen termograficznych, zebranych w różnych warunkach eksploatacyjnych i pod różnymi kątami widzenia. Zadbano o to, aby uniknąć niemal identycznych klatek w poszczególnych podzbiorach w celu zmniejszenia ryzyka wycieku danych i poprawy obiektywizmu oceny. Wszystkie obrazy zostały przeskalowane do jednolitej rozdzielczości przestrzennej przed rozpoczęciem treningu. Zastosowano normalizację temperatury w celu stabilizacji optymalizacji, zachowując jednocześnie względne gradienty termiczne i charakterystykę punktów przegrzania, które są istotne dla oceny stanu technicznego.
Podstawowa architektura CNN
W celu zachowania rozdzielczości przestrzennej podczas przewidywania pola temperatur z obrazów termograficznych w podczerwieni zastosowano w pełni konwolucyjną architekturę regresyjną typu enkoder-dekoder. Przed rozpoczęciem uczenia wszystkie wejściowe obrazy w podczerwieni zostały przeskalowane do jednolitej rozdzielczości 256 × 256 × 3. Sekcja enkodera składała się z czterech bloków konwolucyjnych z progresywnie zwiększającą się głębokością cech. Każdy blok zawierał warstwę konwolucyjną 3 × 3, po której następowała normalizacja wsadowa oraz aktywacja ReLU. Downsampling przestrzenny realizowano za pomocą konwolucji z krokiem (strided convolutions), a nie max poolingu, aby lepiej zachować lokalne struktury termiczne oraz informacje o punktach krytycznych (hotspotach). Progresja kanałów enkodera przebiegała następująco:
32 → 64 → 128 → 256
Sekcja dekodera zrekonstruowała przestrzenne pole temperatury, wykorzystując warstwy transponowanej splotowości do próbkowania w górę z odwrotną progresją cech:
256 → 128 → 64 → 32
Każdy blok dekodera w podobny sposób wykorzystywał splot transponowany, normalizację wsadową oraz aktywację ReLU. Końcowa warstwa splotu 1 × 1 generowała przewidywaną jednokanałową mapę temperatury:
T̂ ∈ ℝ256×256
W związku z tym sieć generuje pole temperatury o pełnej rozdzielczości przestrzennej, odpowiadające wejściowemu obrazowi w podczerwieni. W celu umożliwienia kwantyfikacji niepewności, w pobliżu etapów wąskiego gardła i dekodera wprowadzono warstwy dropout z prawdopodobieństwem p = 0.2. Podczas inferencji warstwy dropout pozostały aktywne, aby umożliwić próbkowanie Monte Carlo do szacowania niepewności predykcyjnej. Wszystkie wagi splotowe zainicjowano metodą He-normal, natomiast człony bias zainicjowano zerami. Model wytrenowano przy użyciu optymalizatora Adam z początkowym tempem uczenia 1 × 10−3, rozmiarem partii (batch size) wynoszącym 8 oraz współczynnikiem weight decay 1 × 10−5. Trening przeprowadzono przez 100 epok, stosując kosinusowy spadek tempa uczenia oraz wczesne zatrzymanie (early stopping) na podstawie wartości RMSE dla zbioru walidacyjnego.
Bazowa funkcja celu jest zdefiniowana jako:

gdzie Ldata oznacza średni błąd kwadratowy na poziomie pikseli pomiędzy przewidywanymi a rzeczywistymi polami temperatury.
Wydajność oceniono za pomocą: R2, RMSE i MAE.
Chociaż podstawowa sieć CNN skutecznie odtworzyła ogólną strukturę termiczną oraz rozkład punktów przegrzania, sporadycznie generowała artefakty niefizyczne w obszarach o niskim gradiencie oraz lekkie nadmierne wygładzanie w pobliżu ostrych granic termicznych. Ograniczenia te stały się podstawą do wprowadzenia regularyzacji fizycznej opartej na dyfuzji w późniejszej konfiguracji modelu.
Uczenie ograniczone fizyką poprzez dyfuzję
Rządzące równanie ciepła
Aby zapewnić spójność termiczną w przewidywanym polu temperatury, do równania ciepła włączono fizyczne warunki wstępne oparte na dyfuzji. W warunkach quasi-stacjonarnych temperatura powierzchni spełnia w przybliżeniu

gdzie T oznacza temperaturę, α jest dyfuzyjnością cieplną, a S reprezentuje lokalne generowanie ciepła. Ponieważ dostępne próbki termograficzne są pojedynczymi migawkami z inspekcji, a nie sekwencjami o wysokiej rozdzielczości czasowej, pochodnej czasowej nie można ocenić bezpośrednio. W związku z tym model zakłada lokalne przewodzenie quasi-stacjonarne i narzuca

z dala od obszarów aktywnego ogrzewania.
Operator Laplace'a 2D został zdyskretyzowany przy użyciu standardowego szablonu różnic skończonych:

Następnie obliczono residuum fizyczne dla przewidywanej mapy temperatury jako

Aby uniknąć wieloznaczności na krawędziach obrazu, residuum Laplace'a obliczano wyłącznie dla poprawnych pikseli wewnętrznych, w których dostępne są wszystkie wartości sąsiednie wymagane przez szablon. Nie zastosowano jawnego maskowania obszarów hotspotów, ponieważ celem członu fizycznego była regularyzacja całego pola przestrzennego, a nie tłumienie stref termicznie aktywnych. Struktura hotspotów była zatem uczona za pomocą członu danych, podczas gdy kara Laplace'a sprzyjała gładkości zgodnej z dyfuzją w obrębie przewidywanej mapy.
Końcowa funkcja celu łączyła stratę danych oraz stratę fizyczną w następujący sposób:

gdzie λphys kontroluje siłę regularyzacji fizycznej. W badaniu ablacyjnym analizowano wartości λphys ∈ {0, 10−4, 10−3, 10−2, 10−1}, aby ocenić wpływ zwiększenia siły więzów fizycznych. Wartości umiarkowane poprawiły generalizację, natomiast zbyt silne ważenie prowadziło do nadmiernego wygładzenia ostrych gradientów punktów krytycznych (hotspotów). Zachowanie to jest zgodne ze strukturami termicznymi zaobserwowanymi na obrazach w podczerwieni, gdzie obszary fizycznie gładkie współistnieją z lokalnymi koncentracjami wysokiej temperatury.
Należy podkreślić, że zastosowany w niniejszej pracy sformułowanie dyfuzji stanu stacjonarnego nie ma na celu reprezentowania kompletnego mechanizmu przekazywania ciepła odpowiedzialnego za powstawanie punktów przegrzania w urządzeniach wysokiego napięcia. W praktyce lokalne przegrzewanie wynika z wewnętrznych procesów generowania ciepła, takich jak efekt Joule'a, rezystancja przejścia oraz degradacja izolacji. Ponieważ dostępny zestaw danych składa się z termograficznych obrazów typu snapshot, pozbawionych informacji czasowych lub pomiarów źródła, więzy dyfuzyjne zostały zastosowane jako zainspirowany fizyką wyraz regularyzacji przestrzennej. Ich rolą jest wymuszanie lokalnie gładkich, fizycznie prawdopodobnych pól temperatur, przy jednoczesnym umożliwieniu wyuczenia charakterystyk punktów przegrzania na podstawie danych. W związku z tym priorytet dyfuzyjny należy interpretować jako więzy gładkości przestrzennej, a nie jako kompleksowy model podstawowej fizyki termicznej.
Uczalna dyfuzyjność cieplna i augmentacja członu źródłowego
Aby poprawić interpretowalność fizyczną, efektywną dyfuzyjność cieplną potraktowano jako trenowalny parametr skalarny. Niech T̂(x, y) oznacza przewidywane pole temperatury, a α > 0 oznacza uczalną dyfuzyjność cieplną. Aby wymusić dodatniość, α sparametryzowano za pomocą nieograniczonej zmiennej β w następujący sposób:

W tym sformułowaniu a priori fizyczne zapisano w postaci efektywnego pola wymuszania resztkowego R(x, y), gdzie R(x, y) reprezentuje lokalne odchylenie od czystej dyfuzji wywołane niemodelowanymi efektami grzewczymi. Zależność adaptacyjnej dyfuzyjności wyrażono zatem jako

Tutaj ∇2T̂(x, y) to operator Laplace'a przewidywanego pola temperatury, a R(x, y) to efektywny człon źródłowy residuum wnioskowany pośrednio z danych termograficznych. Ponieważ dostępne próbki są obrazami snapshotowymi, a nie sekwencjami termicznymi o wysokiej rozdzielczości czasowej, R(x, y) nie jest nadzorowany oddzielnie i służy jedynie jako utajona wielkość fizyczna podczas optymalizacji. Odpowiednia funkcja straty fizycznej została zdefiniowana jako

W eksperymencie z rozszerzonym terminem źródłowym dodano pomocniczą głowicę CNN w celu oszacowania przestrzennej mapy źródeł Ŝ(x, y). W tym przypadku Ŝ(x, y) reprezentuje przewidywane lokalne pole generacji ciepła, a relacja sterująca przyjmuje postać

Głowica źródłowa była przymocowana do wąskiego gardła kodera i składała się z niewielkiej gałęzi konwolucyjnej, która odwzorowywała współdzielone cechy ukryte na jednokanałową mapę wyjściową Ŝ(x, y). Brak było etykiet źródłowych prawdy terenowej, w związku z czym Ŝ(x, y) była uczona wyłącznie poprzez wspólny cel

gdzie Ldata to strata regresji temperatury, λphys kontroluje ograniczenie dyfuzji, a λs regularyzuje predykcję źródła, aby zapobiegać powstawaniu trywialnych map źródłowych o wysokiej amplitudzie. W rozważonym tutaj ustawieniu opartym na migawkach (snapshot-based), sformułowanie składnika źródłowego pozostało niedookreślone i nie poprawiło dokładności predykcji.
Dropout Monte Carlo dla kwantyfikacji niepewności
Aby oszacować niepewność epistemiczną w przewidywanym polu temperatury, podczas wnioskowania zastosowano dropout Monte Carlo. Warstwy dropout o współczynniku 0,2 umieszczono po bloku wąskiego gardła (bottleneck) oraz w etapach dekodera sieci CNN. Podczas testowania warstwy dropout pozostawały aktywne i dla każdego obrazu podczerwieni wykonano 30 stochastycznych przejść w przód. Dla k-tego przejścia stochastycznego przewidywane pole temperatury oznacza się jako

gdzie X jest wejściowym obrazem w podczerwieni, a θk reprezentuje próbkowane parametry sieci wywołane przez dropout. Średnią predykcyjną obliczono jako

a wariancję predykcyjną dla poszczególnych pikseli wyznaczono jako

przy K = 30. Powstałą mapę wariancji wykorzystano do zidentyfikowania obszarów przestrzennych o niższym stopniu pewności predykcji. Ze względu na brak dostępnych etykiet niepewności dla prawdy naziemnej w regresji termograficznej, niepewność oceniano za pomocą map wariancji na poziomie pikseli oraz statystyk podsumowujących obliczonych dla obszarów punktów gorących (hotspotów) i tła, zamiast stosować metryki oparte na kalibracji. Analiza ilościowa wykazała, że średnie odchylenie standardowe predykcji wyniosło 13,046 °C, podczas gdy w obszarze punktów gorących odnotowano wyższe odchylenie standardowe, wynoszące 15,934 °C, w porównaniu do 12,743 °C w obszarze tła. Odpowiada to wzrostowi niepewności w obszarach punktów gorących o około 25% w stosunku do tła. Wyniki te wskazują, że model wykazuje większą niepewność w pobliżu regionów złożonych termicznie, szczególnie wokół granic punktów gorących i stromych gradientów temperatury, co jest zgodne ze strukturą zaobserwowaną w wizualizacjach powierzchni termicznej. Przepływ pracy został podsumowany na Rysunkach 3 i 4, które przedstawiają ogólny schemat przetwarzania oparty na CNN.

Rycina 3: Schemat postępowania. Przegląd proponowanej metodologii, obejmujący akwizycję obrazów termograficznych, przetwarzanie wstępne, ekstrakcję pola temperatury, trenowanie CNN, uczenie z ograniczeniami fizycznymi oraz kwantyfikację niepewności. Skróty: CNN = konwolucyjna sieć neuronowa. Kliknij tutaj, aby zobaczyć powiększoną wersję tej ryciny.

Rysunek 4: Ogólny schemat przetwarzania oparty na sieciach CNN. Architektura proponowanej struktury CNN pokazująca transformację obrazów termowizyjnych w podczerwieni w predykcje przestrzennego pola temperatury. Skróty: CNN = konwolucyjna sieć neuronowa. Aby zobaczyć powiększoną wersję tego rysunku, kliknij tutaj.