Kitabı oku: «Komplexe Dynamische Evaluation (KDE): Ein Instrument zur Optimierung des universitären Fremdsprachenunterrichts», sayfa 7

Yazı tipi:

3.2 Abgrenzung zu anderen Begriffen

Eine detaillierte Abgrenzung des Begriffs Evaluation von Begriffen wie Evaluationsforschung, Qualitätsmanagement, Grundlagenforschung etc. stellt nicht nur eine große Herausforderung dar, sondern kann nicht in wenigen Worten erfolgen. Da dies auch nicht die Intention dieses Buches ist, genügt für den gegebenen Kontext eine überblicksartige Skizze, wenngleich auf die jeweiligen Werke, die diese Analyse in größerem Umfang ermöglichen, in den einzelnen Abschnitten verwiesen wird.

3.2.1 Evaluation vs. Evaluationsforschung, Programmevaluation und Evaluierung

Ein Grund, warum die Verwendung des Begriffes Evaluation oftmals unklar erscheint, ist, weil dieser in der Literatur nicht selten synonym zu anderen Begriffen wie Evaluationsforschung, Programmevaluation, Evaluierung etc. verwendet wird. Obwohl bereits Suchman (vgl. 1967) versuchte, eine klare Abgrenzung zwischen Evaluation und Evaluationsforschung herzustellen, konnte sich diese Bemühung in der scientific community bis dato nicht durchsetzen und auch in neueren Auflagen von Standardwerken (siehe z.B. Rossi/Lipsey/Freeman, 2004:6) werden diese Begriffe nach wie vor bzw. wieder weitgehend synonym verwendet.

Suchman (vgl. 1976) verstand unter Evaluation im Wesentlichen den Prozess der Beurteilung des Wertes eines Produktes, Prozesses oder Programms. Dabei sind seiner Ansicht nach keine systematischen und wissenschaftlichen Verfahren oder datengestützten Beweise zur Untermauerung einer Beurteilung nötig. Unter Evaluationsforschung hingegen verstand er die explizite Verwendung dieser wissenschaftlichen Methoden bzw. Verfahren bei einer Beurteilung. Auf diese Weise ist seiner Ansicht nach die Trennung zwischen einer reinen Behauptung und einer auf Beweisen basierenden Bewertung möglich. Für mich kommt diese erste Unterscheidung der Abgrenzung zwischen allgemeiner und wissenschaftlicher Evaluation gleich, auf die noch näher eingegangen wird (siehe 3.2.5).

Wenngleich der Ansatz von Suchman zweifelsfrei seine Berechtigung hat und ein erneuter allgemeiner Versuch sämtliche, mit Evaluation in Verbindung stehenden Termini klar zu definieren und voneinander abzugrenzen auch heute noch sehr sinnvoll ist, so kann bezweifelt werden, dass dieser Versuch aktuell mehr Erfolg hätte als jener von 1967. Daher wird dies im vorliegenden Buch nicht intendiert, sondern lediglich expliziert, was hier konkret unter den jeweiligen Begriffen im jeweiligen Kontext verstanden wird:

Evaluation wird in diesem Buch im Allgemeinen und in ihrer simpelsten Form als das Sammeln, Analysieren und Bewerten von Informationen gesehen und ist synonym zu Evaluierung. Letzteres wird als Nomen von evaluieren verstanden und wird dann verwendet, wenn explizit der Prozess des Bewertens vor dem Hintergrund bestimmter Kriterien betont werden soll. Dies kann bei einer allgemeinen Evaluation ohne wissenschaftliche Methoden erfolgen oder bei einer wissenschaftlichen Evaluation auf Basis dieser. Im Zusammenhang mit dem Kontext dieses Buches muss bereits hier darauf hingewiesen werden, dass im erweiterten Rahmen des pädagogischen Handelns bzw. der Optimierung von Lehr- bzw. Lernsituationen etc. weitere Definitionen von Evaluation folgen, sie jedoch im gegebenen Kontext erörtert und demgemäß an den jeweiligen Stellen angeführt und besprochen werden.

Das Ergebnis einer Evaluation wird hier nicht als Evaluation bezeichnet, sondern als Evaluationsergebnis bzw. Ergebnis der Evaluation. Unter Programmevaluation wird eine konkrete Form der Evaluation verstanden, die sich auf das Evaluieren eines Programms (z.B. eines Fremdsprachenkurses) bezieht.

Evaluationsforschung betont nicht nur den wissenschaftlichen Kontext einer Evaluation, sondern sie ist als eine eigenständige Wissenschaftsdisziplin zu verstehen (wenngleich sie in der Regel nur als Teildisziplin der Sozialforschung betrachtet wird), die sich der üblichen wissenschaftlichen Methoden und Techniken bedient, um wissenschaftliche Evaluationen zu beschreiben und durchzuführen. Sie stellt das theoretische Grundgerüst für professionelle Evaluationen zur Verfügung bzw. zieht sie aus den Ergebnissen von Evaluationen Rückschlüsse, auf deren Basis erneut Erkenntnisse gewonnen und verallgemeinert werden können, die in Folge eine Weiterentwicklung von Evaluation(-sforschung) ermöglichen. Daher wird dieser Begriff im vorliegenden Buch explizit nicht synonym zu Evaluation gesehen.

3.2.2 Evaluation vs. Lehrveranstaltungsevaluation, Evaluation der Lehre, Lehrevaluation, Feedback und Rückmeldung

Im Kontext dieses Buches ist auch explizit zwischen Evaluation, Lehrveranstaltungsevaluation, Evaluation der Lehre, Lehrevaluation, Feedback und Rückmeldung zu unterscheiden. Evaluation kann, wie bereits unter Abschnitt 2.3.2.4 angeführt, zum einen als Hyperonym zu diesen Begriffen gesehen werden und stellt zum anderen das Generieren, Analysieren und Bewerten – das Evaluieren – von Informationen dar. Unter Lehrveranstaltungsevaluation wird das Evaluieren einer expliziten Lehrveranstaltung (in der Regel) durch die Studierenden verstanden. Alternativ bzw. zusätzlich zur Lehrveranstaltungsevaluation durch Studierende könnte diese auch von KollegInnen evaluiert werden, was dann als Peer-Evaluation bezeichnet wird (siehe Abschnitt 3.3.2.4.2). Wird die gesamte Lehre eines Studiums oder eine Universität evaluiert, spricht man von Lehrevaluation oder Evaluation der Lehre.

Feedback wird als Synonym zu Rückmeldung gesehen und stellt nicht nur einen wichtigen Bestandteil herkömmlicher Kommunikationssituationen dar (siehe z.B. Watzlawick et. al. 2007:29ff), sondern ist auch essentiell im Unterricht – in der Kommunikation zwischen Lehrenden und Studierenden. In diesem Zusammenhang können Feedbacks/Rückmeldungen im Rahmen der Lehrveranstaltungsevaluation oder auf andere Weise gegeben und demnach auch als Teil eines Evaluationsvorgangs bzw. -prozesses aufgefasst werden, weil jedem Feedback/jeder Rückmeldung in der Regel eine Evaluation vorangeht und/oder eine weitere daran anschließt, wie die folgende Grafik verdeutlicht.


Abb. 2: Beispiel einer Kommunikationssituation im Unterricht mit Feedback

Allgemein versteht man unter Feedbacks Rückübermittlungen von Informationen, die vom Empfänger/von der Empfängerin einer Nachricht an den Sender/die Senderin der Nachricht übertragen werden. Diese Rückmeldungen können zum einen Informationen enthalten, ob – und wenn – wie und was von der jeweils gesendeten Nachricht der Empfänger/die Empfängerin wahrgenommen bzw. verstanden hat und welche Reaktionen dies bei ihm/ihr auslöste. Durch diese Information ist es dem Sender/der Senderin möglich, in geeigneter Weise auf diese Rückmeldungen zu reagieren.

Rückmeldungen können die unterschiedlichsten Formen aufweisen, indirekt oder direkt sein und im Unterrichtsgeschehen von der Lehrperson oder von den Studierenden ausgehen. Indirekte Feedbacks wären z.B. körpersprachlicher Natur, könnten durch Gestik oder Mimik zum Ausdruck gebracht werden und sind oft schwieriger zu deuten als direkte Feedbacks, da sie vielfach nur unbewusst wahrgenommen werden und oftmals eher zu Vermutungen anregen als zu konkreten Rückschlüssen zu führen. Direkte Feedbacks können, ausgehend von der Lehrperson, zum Beispiel durch mündliche oder schriftliche Korrekturen erfolgen oder durch Stellungnahmen zu diversen Arbeiten, die von den Studierenden abgegeben wurden. Die Lehrperson evaluiert die Performanz der Studierenden in den unterschiedlichsten Situationen und gibt ihnen Rückmeldung. Von den LernerInnen ausgehend sind direkte Feedbacks z.B. konkrete Äußerungen zu einzelnen Themen im Unterricht, wie beispielsweise Aufforderungen an die Lehrperson, etwas erneut zu erklären bzw. zu wiederholen oder Fragen, die sie während oder nach dem Unterricht stellen. Gerade diese direkten Feedbacks sind für mich als Lehrender im Hinblick auf gute Lehre und damit den Lehr- bzw. Lernerfolg von größter Bedeutung, da man als LehrendeR ohne diese Rückmeldungen von den Studierenden keine (akkurate) oder nur sehr wenig Auskunft darüber hat, ob und wie das vermeintliche input aufgenommen bzw. was davon zum tatsächlichen intake wurde.

3.2.3 Evaluation vs. Qualitätsmanagement

Für weitere Verwirrung sorgt die oftmals unzureichende terminologische Trennung von Evaluation und Qualitätsmanagement bzw. Total Quality Management (TQM). Wenngleich Evaluation und Qualitätsmanagement Gemeinsamkeiten aufweisen und die beiden Termini oft in einem Atemzug genannt werden, sind zwischen diesen beiden Begriffen zahlreiche Unterschiede zu verzeichnen, die für eine exakte Unterscheidung und gegen eine potentiell synonyme Verwendung der Termini sprechen. Einen detaillierten Überblick zu diesem Thema geben Stockmann (2006: Kap. 2.4), Ernst (2008: Kap. 2.1) und Ditton (2010), deren Ausführungen als Basis für die untenstehenden Tabellen dienen, in welchen Gemeinsamkeiten und Unterschiede in aller Kürze aufgezeigt werden sollen:

3.2.3.1 Gemeinsamkeiten


Qualitätsmanagement Evaluation
Ziele zur Qualitätsoptimierung eines Produktes bzw. einer Dienstleistung beitragen
Ursprung USA (1950er Jahre) USA (frühes 19. bis Mitte 20. Jh.)
Einsatz in moderner, rationaler Unternehmensführung als Entscheidungshilfe und zur nachvollziehbaren Begründung von Entscheidungen
Probleme bei Akzeptanz und Umsetzung; oftmals sind Verfahren sehr aufwendig und wenig beliebt und die aus den Untersuchungen abgeleiteten Empfehlungen werden aus unterschiedlichsten Gründen (Wille, Organisation, Bürokratie etc.) nicht umgesetzt.

Tab. 3: Gemeinsamkeiten zwischen Qualitätsmanagement und Evaluation

3.2.3.2 Unterschiede


Qualitätsmanagement Evaluation
Herkunft Betriebswirtschaft privatwirtschaftlicher Sektor Sozialwissenschaften öffentlicher Sektor
Anwendungsfelder Unternehmen Gewinnorientierung Wettbewerb Nonprofit-Organisationen keine Gewinnorientierung kaum Wettbewerb
Orientierung KundInnen Zielgruppen Beteiligte, Betroffene Zielgruppen
Ausrichtung total, komplex, klärend umfassend berücksichtigt alle Mitglieder einer Organisation, interne Strukturen, Abläufe und das Organisationsfeld Managementaufgabe top-down intern partiell, fokussiert nicht umfassend, weil Entscheidungskomponente fehlt; es werden nur Informationen geliefert und bewertet bzw. Empfehlungen definiert; die Umsetzungsentscheidung bleibt beim Management selbstbestimmte Methode top-down, bottom-up intern und/oder extern
Beteiligung der Mitarbeiter i.d.R. alle MitarbeiterInnen MitarbeiterInnen sollen von TQM überzeugt sein und dies in täglicher Arbeit umsetzen Einbindung v.a. bei Umsetzung je nach Typ stärkere bis schwächere Einbindung keine Einbindung bei wissenschaftl. Evaluation wenn Einbindung: dann vor allem bei Design-, Bewertungs-, und Verwertungsphase
Funktion Kontrollinstrument der Leitung Beratung, Unterstützung, Überwachung
Primäre Intention
Bewertungskriterien festgelegt (z.B. ISO) Änderungen nicht vorgesehen frei bestimmbar Änderungen möglich Orientierung an Standards Definiert durch: EntscheidungsträgerInnen bzw. AuftraggeberInnen (direktiv) EvaluatorInnen (wissenschafts-/ erfahrungsbasiert) Zielgruppen/StakeholderInnen (emanzipativ) alle zusammen (partizipativ)
Aktivität kontinuierlich zumeist periodisch und befristet kann kontinuierlich sein
Reichweite/ Tiefe des Untersuchungsfeldes schmal, auf KundInnen bezogen (Kosten-Nutzen) Effizienz/Effektivität von Programmen Ursache-Wirkungszusammenhänge auf Unternehmen begrenzt breit Beschaffung/ Bewertung von Informationen, Transparenz Effizienz/Effektivität, Nachhaltigkeit bezieht gesamten gesellschaftlichen Kontext mit ein (Kausalanalyse)

Tab. 4: Unterschiede zwischen Qualitätsmanagement und Evaluation

Wie die vorangehenden Tabellen verdeutlichen, sind die Unterschiede zwischen Qualitätsmanagement und Evaluation somit gravierender als die Gemeinsamkeiten. Wenngleich beide grundsätzlich dasselbe Ziel verfolgen, zur Qualitätsverbesserung beizutragen, so sind die dahinterstehenden Konzepte und Herangehensweisen doch sehr verschieden voneinander. TQM kann als ein umfassendes und kontinuierliches System der Qualitätssicherung gesehen werden, welches von der Informationsbeschaffung bis zur Umsetzung der Ergebnisse sämtliche Bereiche abdeckt, während bei der Evaluation vor allem die Informationsbeschaffung und deren Bewertung im Vordergrund steht. Die Umsetzung der Ergebnisse ist explizit nicht mehr Bestandteil einer Evaluation, die zudem hinsichtlich der Durchführungsart in der Regel zeitlich befristet bzw. periodisch ist.

Wichtiger als die einzelnen Unterschiede detailliert zu diskutieren, scheint, wie Stockmann (2006:93) ausführt, die Erkenntnis, dass diese beiden Verfahren keine sich gegenseitig ausschließenden Konzepte sind, sondern sich ergänzen, und dass die Evaluation von TQM-Konzepten lernen kann, damit sie effektiver und effizienter gestaltbar ist. Ein Hauptpunkt, der in diesem Zusammenhang von Stockmann (ibid.) genannt wird und auch ganz besonders vor dem Kontext des universitären Fremdsprachenunterrichts hervorzuheben wäre, ist die Forderung, dass Evaluation nicht als periodische Aktivität gesehen werden soll, sondern als prozessbegleitender, kontinuierlicher Vorgang. Diese Überlegung ist zentral bei der Konzeption der KDE, wie in Kapitel 6 im Detail ausgeführt wird.

3.2.4 Evaluations- vs. Grundlagenforschung

Neben den bisher genannten Gründen, warum der Terminus Evaluation oft missverständlich verwendet wird, kommt ein weiterer hinzu: Evaluationsforschung wird nicht immer korrekt von Grundlagenforschung unterschieden. Dies liegt darin begründet, dass, obwohl die meisten Unterschiede zwischen den beiden in der Regel relativ eindeutig sind, auch ein Graubereich vorhanden ist, der eine exakte Unterscheidung in manchen Bereichen erschwert.

Keine prinzipiellen Unterschiede zwischen Evaluations- und Grundlagenforschung sind, wie auch Stockmann (vgl. 2010:58) feststellt, in Hinblick auf (1) die Auswahl des Untersuchungsgegenstandes sowie (2) die Verwendung von Datenerhebungs- und Analysemethoden zur Identifizierung von Wirkungen und der Bearbeitung der Kausalitätsfrage (Ursache-Wirkungszusammenhänge) zu erkennen. In beiden Bereichen können und werden sowohl quantitative als auch qualitative Forschungsmethoden eingesetzt. Hinsichtlich des Untersuchungsgegenstandes ist jedoch zu vermerken, dass im Bereich der Evaluationsforschung die Fragestellung oftmals von einem Auftraggeber bzw. einer Auftraggeberin kommt, während diese in der Grundlagenforschung in der Regel von den WissenschaftlerInnen selbst formuliert wird. In beiden Fällen ist aber auch das Gegenteil möglich. Untersucht können somit in beiden Fällen prinzipiell die gleichen Gegenstände werden.

Im Hinblick auf die Unterschiede zwischen Evaluations- und Grundlagenforschung gibt Balzer (vgl. 2005:17ff) einen guten Überblick, der – zusammen mit Analysen von Stockmann (vgl. 2010:57ff) – die Basis für untenstehende Tabelle bildet, die Gemeinsamkeiten und Unterschiede zwischen Evaluation- und Grundlagenforschung aufzeigen soll.


Evaluationsforschung Grundlagenforschung
Methoden qualitativ, quantitativ, gemischt qualitativ, quantitativ, gemischt
Gegenstand theoretisch frei, in d. Praxis meist definiert zumeist frei, kann definiert sein
Ziele Wissensgenerierung als Basis für Entscheidungen verwertungsorientiert Verbesserung v. Praxis Wissensgenerierung als Basis für Theoriebildung theorieorientiert Verifizieren, Falsifizieren v. Theorien
Zweck zweckbestimmt zweckfrei
Ergebnisse Nützlichkeit für konkretes Projekt müssen stimmen sollten handlungsrelevant sein Generalisierbarkeit dürfen falsch sein sollten wertvoll für Wahrheitsfindung sein; Basis für weitere Forschung
Bewertung Vergleich Ist-Sollzustand Differenz = Grundlage für Bewertung Interpretation und Bewertung untersucht, beschreibt, erklärt aktuellen Ist-Zustand (kein Vergleich) nur Interpretation, keine Bewertung
Urteilskriterien davor festgelegt nötig für Vergleich keine
Fragestellung in der Regel von AuftraggeberIn festgelegt (fremdbestimmt) von Zielsetzung geleitet in der Regel durch ForscherIn bestimmt (selbstbestimmt) von Suche nach Erkenntnisgewinn geleitet
Erkenntnisgewinn zum Treffen konkr. Entscheidungen für die Gesellschaft
Rolle potentielle Eingebundenheit in ein System kontrollierter, fester Rahmen oft in politische Settings eingebunden nach rechtsverbindlichem Auftrag abgewickelt dem Erkenntnisgewinn verpflichtet freier Rahmen der scientific community verpflichtet kann an Verträge gebunden sein
Zeitrahmen Deadline (zeitgebunden) Verspätete Ergebnisse für z.B. Entscheidungen sind nach Entscheidungstermin nicht mehr verwertbar i.d.R zeitungebunden bei Bedarf mehr Zeit bzw. Deklarieren weiteren Forschungsbedarfs neue Erkenntnisse lassen sich nicht mit Terminkalender erzwingen
Empfänger von Ergebnissen Programmverantwortliche konkretes Publikum Beteiligte andere ForscherInnen interessiertes Fachpublikum für alle Interessierten
Veröffentlichung zumeist keine (freie) Veröffentlichung Publikation ist ein zentrales Anliegen
Ergebnisnutzung ist ein Hauptanliegen nicht zwingend; Ergebnisse können aber nützlich sein
Ressourcen i.d.R AuftraggeberInnen i.d.R. öffentlich
Kontext eher politisch sensibel zumeist pol. unproblematisch

Tab. 5: Gemeinsamkeiten und Unterschiede zw. Evaluation und Grundlagenforschung

Während die Grundlagenforschung demnach überwiegend zweckfrei nach (neuen) Erkenntnissen sucht und die Frage nach ihrer Nützlichkeit in der Regel kaum gestellt wird, zeichnet sich die Evaluationsforschung gerade dadurch aus, dass sie, wenngleich sie sich auch der Methoden und Theorien der Sozialforschung bedient, nützlich sein soll und Informationen zur Verfügung stellt, auf Basis welcher Entscheidungen getroffen werden. Diese Gratwanderung zwischen Wissenschaft und Nützlichkeit bezeichnet Stockmann (2010:59) als die »besondere Dualität« der Evaluationsforschung.

Die Tatsache, dass Evaluationsforschung im Gegensatz zur Grundlagenforschung praxisorientiert ist (vgl. Rindermann 2009:14) und auch der Nützlichkeitsaspekt von Evaluationen im Vordergrund steht bzw. eine enge Verknüpfung zwischen den Evaluationsergebnissen und (politischen) Entscheidungen nicht immer negiert werden kann, hat nicht selten zur Folge, dass Evaluationsforschung von grundlagen- bzw. disziplinorientierten ForscherInnen nicht immer als vollwertige Wissenschaft anerkannt wird, wie Stockmann (vgl. 2010:57) anführt. Dies geht auch mit oft konträren Anforderungen einher, mit welchen sich viele EvaluatorInnen in der Praxis konfrontiert sehen.

Evaluation, wie sie im Rahmen der KDE gesehen wird, schafft gewissermaßen eine Gratwanderung, weil sie zum einen Informationen generiert, auf Basis welcher Optimierungen im Fremdsprachenunterricht erwirkt werden können, und weil diese Informationen bzw. Veränderungen zugleich als Ausgangspunkt für neue Theorien und fremdsprachen-didaktische Überlegungen genutzt werden können.

Türler ve etiketler

Yaş sınırı:
0+
Hacim:
500 s. 35 illüstrasyon
ISBN:
9783823300410
Telif hakkı:
Bookwire
İndirme biçimi: