Validierst du noch oder archivierst du schon?...Umsetzung im Digitalen Magazin des Freistaats...

22
Validierst du noch oder archivierst du schon… Der Bedarf eines Workflow-Managements in der Formatverifikation

Transcript of Validierst du noch oder archivierst du schon?...Umsetzung im Digitalen Magazin des Freistaats...

Page 1: Validierst du noch oder archivierst du schon?...Umsetzung im Digitalen Magazin des Freistaats Thüringen 12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und

Validierst du noch oder archivierst du schon… Der Bedarf eines Workflow-Managements in der Formatverifikation

Page 2: Validierst du noch oder archivierst du schon?...Umsetzung im Digitalen Magazin des Freistaats Thüringen 12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und

12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und Daniel Wittmann 2

Problemstellung

Bedarf eines Workflow-Managements in der Formatverifikation

Page 3: Validierst du noch oder archivierst du schon?...Umsetzung im Digitalen Magazin des Freistaats Thüringen 12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und

12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und Daniel Wittmann 3

Unterschiedliche Qualitäten der Formatverifikation

Bedarf eines Workflow-Managements in der Formatverifikation

Page 4: Validierst du noch oder archivierst du schon?...Umsetzung im Digitalen Magazin des Freistaats Thüringen 12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und

12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und Daniel Wittmann 4

Bedarf eines Workflow-Managements in der Formatverifikation Möglichkeiten der Formatverifikation

= Ermittlung des Dateiformats anhand folgender Möglichkeiten:

• Dateinamenserweiterung (File Extension) nur Formatfamilie unzuverlässig, da leicht und beliebig veränderbar • Magische Zahl im Quellcode • Integrierte Metadaten

Formaterkennung / Formatidentifizierung

Page 5: Validierst du noch oder archivierst du schon?...Umsetzung im Digitalen Magazin des Freistaats Thüringen 12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und

12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und Daniel Wittmann 5

Bedarf eines Workflow-Managements in der Formatverifikation Möglichkeiten der Formatverifikation

= Prüfung des Dateiformats gegen die Spezifikation des jeweiligen Formats

Eine Datei ist hinsichtlich des Formats valide, wenn sie keine Bestimmung der entsprechenden Formatspezifikation verletzt!

Formatvalidierung

Page 6: Validierst du noch oder archivierst du schon?...Umsetzung im Digitalen Magazin des Freistaats Thüringen 12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und

12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und Daniel Wittmann 6

Aktuelle Marktsituation

Bedarf eines Workflow-Managements in der Formatverifikation

Page 7: Validierst du noch oder archivierst du schon?...Umsetzung im Digitalen Magazin des Freistaats Thüringen 12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und

12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und Daniel Wittmann 7

Bedarf eines Workflow-Managements in der Formatverifikation Umsetzung im Digitalen Magazin des Freistaats Thüringen

Page 8: Validierst du noch oder archivierst du schon?...Umsetzung im Digitalen Magazin des Freistaats Thüringen 12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und

12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und Daniel Wittmann 8

Bedarf eines Workflow-Managements in der Formatverifikation Umsetzung im Digitalen Magazin des Freistaats Thüringen

Page 9: Validierst du noch oder archivierst du schon?...Umsetzung im Digitalen Magazin des Freistaats Thüringen 12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und

12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und Daniel Wittmann 9

Bedarf eines Workflow-Managements in der Formatverifikation Umsetzung im Digitalen Magazin des Freistaats Thüringen

Page 10: Validierst du noch oder archivierst du schon?...Umsetzung im Digitalen Magazin des Freistaats Thüringen 12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und

12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und Daniel Wittmann 10

We have a dream…

Bedarf eines Workflow-Managements in der Formatverifikation

Page 11: Validierst du noch oder archivierst du schon?...Umsetzung im Digitalen Magazin des Freistaats Thüringen 12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und

12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und Daniel Wittmann 11

Bedarf eines Workflow-Managements in der Formatverifikation Workflowentwurf

Dateiformat bestimmen

automatische Auswahl der Validatoren

Dateiformat validieren Ergebnis

Page 12: Validierst du noch oder archivierst du schon?...Umsetzung im Digitalen Magazin des Freistaats Thüringen 12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und

12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und Daniel Wittmann 12

Möglichkeiten und Grenzen der Umsetzung

Bedarf eines Workflow-Managements in der Formatverifikation

Page 13: Validierst du noch oder archivierst du schon?...Umsetzung im Digitalen Magazin des Freistaats Thüringen 12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und

12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und Daniel Wittmann 13

DROID

<meta name="mime-type" content="application/pdf"/> <meta name="name" content="Acrobat PDF/A - Portable Document Format"/> <meta name="puid" content="fmt/95"/> <meta name="version" content="1b"/>

<meta name="pdf:PDFVersion" content="1.4"/> <meta name="pdfa:PDFVersion" content="A-1b"/> <meta name="dc:format" content="application/pdf; version=1.4"/> <meta name="dc:format" content="application/pdf; version=&quot;A-1b&quot;"/> <meta name="Content-Type" content="application/pdf"/> <meta name="X-Parsed-By" content="org.apache.tika.parser.pdf.PDFParser"/> <meta name="pdfaid:conformance" content="B"/> <meta name="pdfaid:part" content="1"/>

Apache TIKA

Bedarf eines Workflow-Managements in der Formatverifikation Ergebnisausgabe der Tools

Page 14: Validierst du noch oder archivierst du schon?...Umsetzung im Digitalen Magazin des Freistaats Thüringen 12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und

12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und Daniel Wittmann 14

Bedarf eines Workflow-Managements in der Formatverifikation Ergebnisausgabe der Tools

<reportingModule release="1.9" date="2017-07-20">PDF-hul</reportingModule>

<format>PDF</format> <version>1.4</version> <status>Well-Formed and valid</status> <mimeType>application/pdf</mimeType> <profile>ISO PDF/A-1, Level B</profile> <profile>ISO PDF/A-1, Level A</profile>

JHOVE

<pdfa> <entry key="xmp_pdfaid_part">1</entry>

<entry key="xmp_pdfaid_conformance">B</entry> </pdfa> <display_name>PDF document is compliant with PDF/A-1b (2005)</display_name> <display_comment>Checks whether the PDF file is compliant with PDF/A-1b (2005) </display_comment>

Callas PDFPilot

Page 15: Validierst du noch oder archivierst du schon?...Umsetzung im Digitalen Magazin des Freistaats Thüringen 12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und

12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und Daniel Wittmann 15

Bedarf eines Workflow-Managements in der Formatverifikation Beispiel Tool-Set FITS

Page 16: Validierst du noch oder archivierst du schon?...Umsetzung im Digitalen Magazin des Freistaats Thüringen 12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und

12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und Daniel Wittmann 16

Bedarf eines Workflow-Managements in der Formatverifikation Beispiel Tool-Set FITS

<identification> <identity format="PDF/A" mimetype="application/pdf" toolname="FITS" toolversion="1.4.0"> <tool toolname="Droid" toolversion="6.4" /> <tool toolname="Jhove" toolversion="1.20.1" /> <tool toolname="Exiftool" toolversion="11.14" /> <tool toolname="Tika" toolversion="1.19.1" /> <version toolname="Droid" toolversion="6.4">1b</version> <externalIdentifier toolname="Droid" toolversion="6.4" type="puid">fmt/354</externalIdentifier> </identity> </identification> <filestatus> <well-formed toolname="Jhove" toolversion="1.20.1" status="SINGLE_RESULT">true</well-formed> <valid toolname="Jhove" toolversion="1.20.1" status="SINGLE_RESULT">true</valid> </filestatus>

FITS

Page 17: Validierst du noch oder archivierst du schon?...Umsetzung im Digitalen Magazin des Freistaats Thüringen 12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und

12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und Daniel Wittmann 17

Bedarf eines Workflow-Managements in der Formatverifikation Auswertung

Was wurde im Beispiel gezeigt? - Sofern mehrere Tools in einer Software integriert angesprochen werden, laufen diese parallel und werden nicht miteinander verknüpft eingesetzt. - Im besten Fall werden Toolergebnisse zu einem Gesamtergebnis konsolidiert.

Wie kann dies zum Workflow ausgebaut werden? - Die Tools werden in Abhängigkeit zueinander ausgeführt. - Die Ergebnisse der Tools werden miteinander verknüpft.

Was ist dafür erforderlich? - Durch das Mapping der Ergebnisstrings soll ein vergleichbares Vokabular erzeugt werden.

Page 18: Validierst du noch oder archivierst du schon?...Umsetzung im Digitalen Magazin des Freistaats Thüringen 12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und

12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und Daniel Wittmann 18

Mapping

MIME-Type = application/pdf

PDF Version =

A-1b

DROID

<meta name="mime-type" content="application/pdf"/> <meta name="name" content="Acrobat PDF/A - Portable Document Format"/> <meta name="puid" content="fmt/95"/> <meta name="version" content="1b"/>

<meta name="pdf:PDFVersion" content="1.4"/> <meta name="pdfa:PDFVersion" content="A-1b"/> <meta name="dc:format" content="application/pdf; version=1.4"/> <meta name="dc:format" content="application/pdf; version=&quot;A-1b&quot;"/> <meta name="Content-Type" content="application/pdf"/> <meta name="X-Parsed-By" content="org.apache.tika.parser.pdf.PDFParser"/> <meta name="pdfaid:conformance" content="B"/> <meta name="pdfaid:part" content="1"/>

Apache TIKA

Bedarf eines Workflow-Managements in der Formatverifikation Mapping der Ergebnisstrings

Page 19: Validierst du noch oder archivierst du schon?...Umsetzung im Digitalen Magazin des Freistaats Thüringen 12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und

12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und Daniel Wittmann 19

Bedarf eines Workflow-Managements in der Formatverifikation Mapping der Ergebnisstrings

<reportingModule release="1.9" date="2017-07-20">PDF-hul</reportingModule>

<format>PDF</format> <version>1.4</version> <status>Well-Formed and valid</status> <mimeType>application/pdf</mimeType> <profile>ISO PDF/A-1, Level B</profile> <profile>ISO PDF/A-1, Level A</profile>

JHOVE

<pdfa> <entry key="xmp_pdfaid_part">1</entry>

<entry key="xmp_pdfaid_conformance">B</entry> </pdfa> <display_name>PDF document is compliant with PDF/A-1b (2005)</display_name> <display_comment>Checks whether the PDF file is compliant with PDF/A-1b (2005) </display_comment>

Callas PDFPilot

Mapping

MIME-Type = application/pdf

PDF Version =

A-1b

Status = valid

Page 20: Validierst du noch oder archivierst du schon?...Umsetzung im Digitalen Magazin des Freistaats Thüringen 12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und

12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und Daniel Wittmann 20

Bedarf eines Workflow-Managements in der Formatverifikation Workflowentwurf

Erkennung/Identifizierung Validierung

Tool 2 Tool 1

Tool 4 Tool 3

Konsolidierung Zuordnung Konsolidierung

Steuerungsstelle

Steuerungsstelle

Steuerungsstelle

Ergebnis

Ergebnis

Page 21: Validierst du noch oder archivierst du schon?...Umsetzung im Digitalen Magazin des Freistaats Thüringen 12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und

12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und Daniel Wittmann 21

Bedarf eines Workflow-Managements in der Formatverifikation Herausforderungen der Automation

• Mapping der Ergebnisstrings zur Herstellung einer Vergleichbarkeit der einzelnen Tools

• Zuordnung von Dateiformaten zu Validatoren

Dateiformat 1

Dateiformat 2

Dateiformat 3

Validator 1

Validator 2

Validator 3

Validator 4

… …

Page 22: Validierst du noch oder archivierst du schon?...Umsetzung im Digitalen Magazin des Freistaats Thüringen 12.03.2019 23. Tagung des Arbeitskreises AUdS in Prag | Christine Träger und

Landesarchiv Thüringen Projekt Digitales Magazin Marstallstraße 2 Christine Träger Daniel Wittmann 99423 Weimar Tel.: +49 (0)3643 870 135 Tel.: +49 (0)3643 870 163 www.thueringen.de/landesarchiv [email protected] [email protected]