Deep learning approaches for the improvement of commercial microwave link and weather radar derived precipitation information
- Climate observations are crucial for societies around the globe to adapt to natural hazards in a changing climate. However, large parts of the world, especially developing countries, do not have sufficient access to climate information. Rainfall is the major driver of hydrological processes that cause flooding or droughts which are responsible for the majority of natural disasters. Precipitation is especially hard to estimate and forecast due to its high spatial and temporal variability. There is also a large heterogeneity in the abundance of conventional rainfall sensors such as rain gauges and weather radars and their setup is cost and maintenance-intensive.
To close the observational gap for rainfall sensors commercial microwave links (CMLs) to measure path-averaged rainfall are a promising alternative since more than 90% of the global population lives in areas where they are deployed. However, due to their opportunistic nature and indirect measurement, they are prone toClimate observations are crucial for societies around the globe to adapt to natural hazards in a changing climate. However, large parts of the world, especially developing countries, do not have sufficient access to climate information. Rainfall is the major driver of hydrological processes that cause flooding or droughts which are responsible for the majority of natural disasters. Precipitation is especially hard to estimate and forecast due to its high spatial and temporal variability. There is also a large heterogeneity in the abundance of conventional rainfall sensors such as rain gauges and weather radars and their setup is cost and maintenance-intensive.
To close the observational gap for rainfall sensors commercial microwave links (CMLs) to measure path-averaged rainfall are a promising alternative since more than 90% of the global population lives in areas where they are deployed. However, due to their opportunistic nature and indirect measurement, they are prone to systematic and random errors that require quantification, attribution to causes, and correction in order to provide high-quality quantitative precipitation estimates (QPE). The same holds for systematic errors in weather radar QPE. The objective of this thesis is the improvement of CML and weather radar QPE by mitigating systematic errors. The main innovation is the application of deep learning techniques which have proven to provide high-performing solutions to model atmospheric processes. Convolutional neural networks (CNNs) are applied to improve the detection of rain events in commercial microwave link data in order to reduce the impact of attenuation falsely attributed to rainfall by more than 50%. Another application is the simultaneous increase of the temporal resolution, ground-adjustment, and advection-correction of radar QPE to reduce biases by 20% and mitigate a sampling error. Additional studies to investigate and disentangle the complex error structure of commercial microwave links have been conducted: First, the performance of state-of-the-art CML processing techniques and the resulting CML QPE were compared using one year of country-wide rainfall observations identifying processing steps with the highest impact on QPE quality. Second, missing rainfall extremes due to a complete loss of signal in heavy rain (blackouts) have been investigated showing that they occur more frequently than radar-derived climatology suggests. Third, signal fluctuations that are not due to rainfall (anomalies) have been detected using manual data flagging and their impact on CML QPE has been investigated. While there was ambiguity in the flagging, removing anomalies significantly improved the quality of rainfall estimates. In summary, the presented results show that systematic errors in CML and weather radar QPE can be quantified and corrected using a data-driven approach, but attribution to causes remains difficult. Trained artificial neural networks prove to be a robust tool to provide high-quality QPE that can be easily transferred to new locations and future time periods within the same climatic region. CML QPE is shown to have a remarkably high quality when compared to gauge-adjusted weather radar QPE and the results presented will foster a successful deployment of CMLs to close the observational gap in climate science.…


- Klimabeobachtungen sind von großer Bedeutung, damit sich menschliche Gesellschaften an Naturgefahren in einem sich verändernden Klima anpassen können. Große Teile der Welt, insbesondere Entwicklungsländer, haben jedoch keinen ausreichenden Zugang zu Klimainformationen. Besonders Niederschlag ist, als Hauptfaktor hydrologischer Prozesse, für einen Großteil der auftretenden Naturkatastrophen, wie Überschwemmungen oder Dürren, verantwortlich und deshalb als Variable für Klimaanpassungsstrategien unerlässlich. Aufgrund seiner hohen räumlichen und zeitlichen Variabilität ist es zudem besonders schwierig Niederschlag präzise zu messen und vorherzusagen, weshalb ein besonders dichtes Netz an Observationen nötig ist. Die globale Verteilung herkömmlicher Niederschlagssensoren, wie Regenmesser oder Wetterradare, ist jedoch sehr inhomogen und ihr Betrieb ist sehr kosten- und wartungsintensiv. Um die Lücken in der Verfügbarkeit präziser Niederschlagsobservationen zeitnah zu schließen ist deshalbKlimabeobachtungen sind von großer Bedeutung, damit sich menschliche Gesellschaften an Naturgefahren in einem sich verändernden Klima anpassen können. Große Teile der Welt, insbesondere Entwicklungsländer, haben jedoch keinen ausreichenden Zugang zu Klimainformationen. Besonders Niederschlag ist, als Hauptfaktor hydrologischer Prozesse, für einen Großteil der auftretenden Naturkatastrophen, wie Überschwemmungen oder Dürren, verantwortlich und deshalb als Variable für Klimaanpassungsstrategien unerlässlich. Aufgrund seiner hohen räumlichen und zeitlichen Variabilität ist es zudem besonders schwierig Niederschlag präzise zu messen und vorherzusagen, weshalb ein besonders dichtes Netz an Observationen nötig ist. Die globale Verteilung herkömmlicher Niederschlagssensoren, wie Regenmesser oder Wetterradare, ist jedoch sehr inhomogen und ihr Betrieb ist sehr kosten- und wartungsintensiv. Um die Lücken in der Verfügbarkeit präziser Niederschlagsobservationen zeitnah zu schließen ist deshalb die Nutzung bestehender Infrastruktur besonders vielversprechend. Kommerzielle Richtfunkstrecken (CMLs), die zur Messung des pfadgemittelten Niederschlags verwendet werden können sind eine vielversprechende Alternative zu herkömmlichen Messnetzen, da mehr als 90% der Weltbevölkerung in Gebieten mit Mobilfunknetzwerken lebt, in denen CMLs betrieben werden.
Aufgrund der opportunisten Nutzung von CML Daten und der indirekten Messung sind CMLs jedoch anfällig für systematische und zufällige Messfehler. Diese müssen quantifiziert, möglichen Ursachen zugeordnet und anschließend korrigiert werden, um hochwertige quantitative Niederschlagsmessungen (QPE) zu liefern.
Das Gleiche gilt für systematische Fehler in Wetterradarmessungen.
Das Ziel dieser Arbeit ist die Verbesserung von CML und Wetterradar QPE durch die Kompensation von systematischen Fehlern. Die wichtigste Neuerung in dieser Dissertation ist die Anwendung von Deep-Learning-Techniken, die geeignete Lösungen für die Modellierung von Niederschlagsprozessen bieten. Im speziellen werden in der vorgestellten Arbeit Convolutional Neural Networks (CNNs) eingesetzt, um die Detektion von Regenereignissen in Daten kommerzieller Richtfunkstrecken zu verbessern und den Beitrag von fälschlicherweise dem Regen zugeschriebener Dämpfung um mehr als 50% zu reduzieren. Eine weitere Anwendung von CNNs bestand in der gleichzeitigen Erhöhung der zeitlichen Auflösung, einer Anpassung an bodennahe Messungen und einer Advektionskorrektur von Radarniederschlagsmessungen. Dies erlaubte die Reduktion des mittleren Fehlers um 20% und die deutliche Abmilderung von Sampling-Fehlern. Um die Korrektur von Messfehlern zu unterstützen wurden weitere Untersuchungen durchgeführt, um das Verständnis über die komplexe Fehlerstruktur kommerzieller Richtfunkstrecken zu verbessern. Zuerst wurde die Effektivität im Forschungsfeld etablierter CML-Datenverarbeitungstechniken und die daraus resultierende CML-QPE anhand eines Jahres landesweiter Messungen verglichen. Anschließend wurden fehlende Niederschlagsextreme aufgrund eines vollständigen Signalausfalls bei Starkregen (Blackouts) untersucht, wobei sich herausstellte, dass diese häufiger auftreten, als eine von Wetterradarmessungen abgeleitete Klimatologie vermuten lies. Zusätzlich wurden Signalschwankungen, die nicht auf Regenfälle zurückzuführen sind (Anomalien), durch manuelle Qualitätskontrolle der Daten identifiziert und ihre Auswirkungen auf die CML-QPE untersucht. Trotz Mehrdeutigkeiten bei der Kennzeichnung konnte durch die Entfernung der Anomalien die Qualität der Niederschlagsschätzungen deutlich verbessert werden. Zusammenfassend zeigen die Ergebnisse dieser Dissertation, dass systematische Fehler in CML und Wetterradardaten mit einem datengetriebenen Ansatz quantifiziert und korrigiert werden können, wobei eine Zuordnung zu potentiellen Ursachen schwierig bleibt. Trainierte künstliche neuronale Netze erweisen sich als robustes Instrument zur Bereitstellung qualitativ hochwertiger QPE, die leicht auf neue Standorte und künftige Zeiträume innerhalb derselben Klimaregion übertragen werden können. Es konnte außerdem gezeigt werden, dass CML-QPE eine bemerkenswert hohe Qualität im Vergleich mit stationsangeeichten Wetteradardaten aufweist. Die präsentierten Ergebnisse sind ein wichtiger Schritt hin zur Operationalisierung von CML Niederschlagsmessungen und damit einer Verbesserung der globalen Verfügbarkeit von wichtigen Klimainformationen.…

