Postup převodu dat z Clavia - Dokumentace Tritius

<p>Neměnit klíč v definici poplatků po testovacím převodu, nepovede se pak napojení poplatků při dalším importu - měnit až po posledním importu knihovny.</p>

19

<p>Neměnit zkratky v odděleních, nebude fungovat vazba výchozího oddělení čtenáře - měnit až po ostrém startu.</p>

20

21

</div>

22

23

function toggleContent(contentId) {

24

var content = document.getElementById(contentId);

25

if (content.style.display === "none") {

26

content.style.display = "block";

27

} else {

28

content.style.display = "none";

}

}

</script>

== Příprava převodu ==

35

36

* Zeptat se knihovny před převodem: [[Dotazy na knihovnu před převodem>>doc:.Dotazy-na-knihovnu-pred-prevodem.WebHome]]

37

* Zálohu rozbalovat přes **{{html}}<span style="color: red;">Total Commander </span>{{/html}}**- ne přes Windows průzkumníka!!!

38

39

1. **{{html}}<span style="color: green;">Aktualizovat Clavius</span>{{/html}}** na současnou verzi (Pomůcky → Update přes internet)

40

1. **{{html}}<span style="color: green;">Provést synchronizaci polí</span>{{/html}}** (Pomůcky → Editace polí → Sync → Aktualizovat)

41

1. **{{html}}<span style="color: green;">Provést kontrolu integrit dat </span>{{/html}}**(chyby opravovat !!! hlavně dogenerovat autority a smazat chybná pole)

42

1*. Katalogizace:

43

1**. **do integrit with .t.,.t. **( lze využít i příkazu **do tritius** , dělá to samé )

44

1***. vyzve ke sloučení slovníků C1 a C3 do C1 - dát ano

45

1**. **do OKindik with .T.**

46

1*. Výpůjčák

47

1**. Clex.exe → Systém → Provést Kontrolu integrity dat)

48

1. **{{html}}<span style="color: green;">pohled([select !s.scislo, s.pcislo, s.ucislo, #s.ckod from svazky s, (select ckod from svazky group by ckod having count(*)>1) s1 where s.ckod<>'' and s.ckod=s1.ckod order by s.ckod])</span>{{/html}}**

49

1*. duplicity čárových kódů svazků řešit ve foxíku tak že za čárový kód přídáte písmeno a,b,c ... kromě prvního výskytu čárového kódu

50

1. **{{html}}select isxn, count(*) as pocet from tituly group by isxn order by pocet desc{{/html}}**

51

1*. kontrola na duplicitu ISBN

52

53

== Vlastní export dat z Clavia - automaticky (verze Clavia od 28.2.2019) ==

54

55

* **{{html}}<span style="color: red;">Pokud se jedná o reksové centrum, musí export probíhat pod uživatelem Správce Reksu!!</span>{{/html}}** ( Systém - Servis dat - Výběr jiné knihovny - zaškrtnout Správce REKSu - OK )

56

* Při importu REKS knihovny = přečíst oddíl 2.5 ( možná úprava svazků v Claviu )

57

* ve foxíku spustit:

58

* **do FULLEXPORT**

59

** -vyzve ke kontrole OKAcisla - dát ano a lze jít spát, bude následně automaticky pokračovat export tagů

60

* TAG soubory se automaticky vygenerují do složky TXT ve složce Clavius

61

62

== Příprava CLAVIUS SQL ==

63

64

65

<button onclick="toggleContent('content4')">O programu NASQL</button>

66

67

68

<p>Pro převod dat akvizice, výpůjčního protokolu a další částí se používá přímý převod do Tritiia z SQL databáze Clavius.

69

<p>Proto je nutné převést celý Clavius do SQL (lze využít SQL server pro Tritius), tento krok lze vynechat jen pokud se importuje pouze fond.

70

<p>Je zapotřebí použít program <b>NASQL.exe</b></p>

</div>

function toggleContent(contentId) {

75

var content = document.getElementById(contentId);

76

if (content.style.display === "none") {

77

content.style.display = "block";

78

} else {

79

content.style.display = "none";

}

}

</script>

== Importování knihovny pokud v cílovém Tritiu již je část svazků (např. Výměnné soubory) ==

86

87

V případě připojování dat je nutná existence čárového kódu v tabulce svazky u výměnných souborů, aby došlo ke správnému napárování:

88

89

{{html}}<button onclick="toggleContent('content2')">Postup kontroly a příkazy pro vygenerování</button>

90

91

92

<p><b>Kontrola dat v Claviu, jestli obsahují vygenerovaný správně ckod, kdy 31840 - je prefix nadřízené knihovny:</b></p>

93

<br>

94

<p>browse for betw(val(pcislo),500000,599999) and !empt(ckod) and ckod<>'31840'</p>

95

<br>

96

<p><b>Pokud nic nevrátí, tak netřeba dělat! V opačném případě je potřeba předem dogenerovat do svazky.ckod čárový kód s prefiem nadřízené knihovny:</b></p>

97

<br>

98

<p>browse for betw(val(pcislo),500000,599999) and betw(len(allt(ckod)),0,8)</p>

99

<br>

100

<p>repl ckod with '31840'+padl(allt(pcislo),8,'0') for betw(val(pcislo),500000,599999) and betw(len(allt(ckod)),0,8)</p>

101

<p>repl ckod with '31840'+right(ckod,7) for betw(val(pcislo),500000,599999) and !empt(ckod) and ckod<>'31840'</p>

</div>

function toggleContent(contentId) {

106

var content = document.getElementById(contentId);

107

if (content.style.display === "none") {

108

content.style.display = "block";

109

} else {

110

content.style.display = "none";

}

}

</script>{{/html}}

Je nutné zkontrolovat u VS, aby svazky měli {{html}}<span style="color: red;">vyplněný</span>{{/html}} CKOD (viz výše) a poté {{html}}<span style="color: red;">PIDKN</span>{{/html}} obsahovalo znak {{html}}<span style="color: red;">˙</span>{{/html}} :

116

117

118

<button onclick="toggleContent('content3')">Postup kontroly a příkazy pro vygenerování</button>

119

120

121

<p><b>Kontrola:</b></p>

122

<p>pohled("SELECT * FROM svazky where ckod <> ' ' AND ckod not like 'prefixImportovaneREKSovky%' AND pidkn != '˙'")</p>

123

<p></p>

124

<p><b>Oprava:</b></p>

125

<p>pohled("UPDATE svazky SET pidkn = '˙' where ckod <> ' ' AND ckod not like 'prefixImportovaneREKSovky%' AND pidkn != '˙'")</p>

</div>

function toggleContent(contentId) {

130

var content = document.getElementById(contentId);

131

if (content.style.display === "none") {

132

content.style.display = "block";

133

} else {

134

content.style.display = "none";

}

}

</script>

//Rozdíly oproti bodu 2.6.2 Import dat~://

141

142

1. **{{html}}<span style="color: green;">Díla:</span>{{/html}}**

143

144

* vybrat v roletce pro duplicity: {{html}}<span style="color: red;">Kontroluje duplicitu čárových kódů - duplicitní čárové kódy neimportuje a nepřidá je failed souboru</span>{{/html}}

145

** doporučuji použít až na druhý pokus a okem zkontrolovat, že jsou to opravdu duplicity s knihovnou, která už je na serveru

146

147

1. **{{html}}<span style="color: green;">Výpůjčky:</span>{{/html}}**

148

149

* Vybrat {{html}}<span style="color: red;">KPUJCKY_REKS</span>{{/html}} a neimportovat KPUJCKY!

150

151

== Import dat v Tritiu, pokud v cílovém Tritiu není část svazků (např. Výměnné soubory) ==

152

153

=== Založení knihovny v Tritiu ===

154

155

Je potřeba zaregistrovat novou knihovnu v Tritiu (Přihlášení do Tritia tlačítko Registrovat)

156

157

Při převádění REKSového Clavia nebo převádění knihovny, která má {{html}}<span style="color: red;">Carmen</span></span>{{/html}} (Knihovna s REKSovkami - Clavius neobsahuje pouze jednu knihovnu) nedávat po registraci vytvořit webovou definici - vznikne naimportováním DEFWEB, kdy dojde k založení webové definice pro každou REKSovou knihovnu.

158

159

160

<span style="color: red;">!!!Pokud se jedná o sdílený server, kde již běží knihovny na ostro, tak provést zálohu databáze, kdyby se něco zvrtlo co nedokáže <a href="https://doc.tritius.cz/bin/view/uzivatelsky-manual/Pro-spravce/Postup-prevodu-dat-z-Clavia/Postup-Odstraneni-importovanych-dat/">Postup Odstranění importovaných dat</a> vyřešit a bylo potřeba provést obnovení!!!</span>

<span style="color: red;">!!!Před zahájením zkontrolovat dostatek místa na disku VM!!!</span>

165

166

167

Kontrolu lze provést 2 způsoby:

168

169

1. přes putty pomocí příkazu df -h

170

1. v Zabixxu: Sledování → Obrazovky → VM Overview → Hostitel vybrat VM a podívat se na graf Disk space usage

=== Import dat ===

{{html}}<span style="color: red;">Import REKS:</span>{{/html}} nezapomenout **{{html}}<span style="color: red;">zamknout</span>{{/html}}** slovníky (především klíčová slova, popřípadě dodavatele)

175

176

**{{html}}<span style="color: red;">POZOR!!!!</span>{{/html}}**: kontrola na existenci A podpolí v Tritiu, které zbyli od minulého importu, pokud ano tak smazat před importem!:

177

178

179

<button onclick="toggleContent('content5')">SELECT</button>

180

181

182

<p>select count(*) from authority_data where subfield_definition in (</p>

183

<p>select id from subfield_definition where name_sub='A')</p>

184

<br>

185

<p>select count(*) from work_data where subfield_definition in (</p>

186

<p>select id from subfield_definition where name_sub='A')</p>

187

<br>

188

189

<p>Po zapnutí Importovacího módu nesmí tabulka import_id_backup obsahovat jediný řádek, který má ve sloupci library ID právě převáděné knihovny, tedy select * from import_id_backup where library = ID_prave_prevadene_knihovny musí vrátit 0 .</p>

</div>

function toggleContent(contentId) {

194

var content = document.getElementById(contentId);

195

if (content.style.display === "none") {

196

content.style.display = "block";

197

} else {

198

content.style.display = "none";

}

}

</script>

* Pokud importuji do knihovny s defaultně jiným jazykem (slovenské knihovny) musím před importem správně nastavit **SYSTEM_DEFAULT_LANGUAGE **tak i** LOCALE.**

205

* Pokud se nejedná o multiknihovní instanci, nastavit v položkách nastavení **MULTI_LIBRARY_INSTANCE** na false ( -304 ) - musí se provést před importem vzkazů čtenářů.

206

* V záložce **Systém** je volba **Import dat**

207

* Spustí se importní mód - běžní uživatelé se do knihovny v importním módu nemohou přihlásit

208

* //Doporučení - naimportovat dump databáze na VM s Tritiem pod uživatelem root (import je řádově rychlejší)//

209

* URL spojení databázi Clavius SQL kde jsou výpůjčky :

210

** Pro MySQL: **jdbc:mysql:~/~/server.lanius.cz:3306///<databaseName>//?useUnicode=true&characterEncoding=UTF-8&serverTimezone=Europe/Prague**

211

** Pro MSSQL: **jdbc:sqlserver:~/~/192.168.0.24:1433;databaseName=//<databaseName>//**;SendStringParametersAsUnicode=False;

212

* Zadáte uživatele a heslo pro připojení do databáze a tlačítkem **Připojit** provedete spojení (po úspěchu se tlačítko změní na **Odpojit**)

213

* **Start import mode**

214

* Postupně procházíme jednotlivé záložky zleva do prava. Vynecháváme ty které nejsou vždy (akvizice, webový katalog Carmen)

215

** **Záložka Definice** - vybrat postupně po jedné definiční tabulky a dejte **Importuj** vybrané tabulky (v případě opakovaného importu podruhé neprovádět !!!)

216

*** **Definici webů (DEFWEB)** importovat pouze pro REKSové knihovny (při převodu do sdílené knihovny je třeba založit ručně při registraci knihovny)

217

*** Pokud se nepodaří v případě knihovny, která má Carmen převést DEFWEB, tak stačí v Tritius založit ručně webovou definici a do import_id vyplnit ID, které se najde v databázi Clavia:

218

*** SELECT distinct defWebId FROM car_cloud;

219

220

*

221

** //Doporučení - Pokud se jedná o převod větší knihovny, tak po importu větších dat (autorit, díla, poplatky, čtenáři, výpůjčky, ...) dělat zálohu databáze//

222

** **Záložka Autority (u REKSovky zvážit neimportování!)**:

223

*** tlačítko Nahrát soubor nalistujeme **AUTORITY.TAG** a po jeho nahrání jej vybereme a dáme Importovat. Po importu jsou chybné, neimportované záznamy v souboru failed

224

** Pokud je soubor velký desítky MB a nejde nahrát zkuste přímou adresu např. : [[http:~~/~~/192.168.0.250:8080/Tritius/>>url:http://192.168.0.250:8080/Tritius/cz.effectiva.tritius.Application/Application.html#Import_wizard]] takto obejdete Apache web server

225

** **Záložka Díla a Svazky (u REKSovky zvážit ztitulování a neskládání autorit!):**

226

*** obsah složky **NAWEB** z Clavia (pokud existuje) - v průvodci importu dat je na záložce import děl tlačítko, které nahraje zabalenou složku (NAWEB.zip) do příslušné složky a rozbalí. (dříve - ručně nakopírovat do složky Tritia (\tritius\files\Clavius\WORK\NAWEB)

227

*** Pozor: zkontrolovat názvy souborů pokud obsahují mezery nebo znaky s diakritikou nedojde k propojení !!!

228

*** Typ importu duplicit - kontroluje duplicitu podle typu dokumentu a ISBN, popřípadě podle typu dokumentu, názvu, autora a roku (Zkontrolovat duplicity ISBN v TAGu)

229

*** Přes Nahrát soubor vybereme **DATA.TAG** a po jeho nahrání jej vybereme a dáme Importovat. Po importu jsou chybné, neimportované záznamy v souboru failed

230

*** Problémové záznamy v souboru failed, které se nenaimportovaly, je potřeba hned řešit tzn. **opravit a opakovaně importovat teprve pak se může pokračovat**!

231

** **Čtenáři:**

232

*** Vybrat CTENARI nebo CTENARI_DO_VSECH_KNIHOVEN - neimportovat obě!

233

** **MVS**

234

*** Lepší Vytvářet nové záznamy, aby nedocházelo k propojení rezervací na MVS.

235

** **Záložka Výpůjčky**:

236

*** Vybrat KPUJCKY nebo KPUJCKY_REKS - neimportovat obě!

237

*** postupně po jednotlivých tabulkách importovat a v logu kontrolovat provedení.

238

*** **Poplatky **- způsob uhrazení (poplatek.kartou)

239

**** 0 - platba v hotovosti

240

**** 1, 2, 3, 4 - platba kartou

241

**** 5, 6, 7 - platba na účet

242

**** 8, 9 - platba kreditem

243

* //Odstranit z VM databázi Clavia, pokud byla naimportována do VM.//

244

245

=== Odstranění importovaných dat ===

246

247

Pokud dojde během importu k problému s některou částí importu (kromě nastavení), tak ji lze smazat pomocí: [[Postup Odstranění importovaných dat>>url:https://confluence.tritius.cz/pages/viewpage.action?pageId=102925148]]

248

249

== Nastavení po importu ==

250

251

* **Před ukončením importního módu je třeba vytvořit zálohu databáze.**

252

* **Ukončit import mód - až v momentě, kdy jsou všechna data správně převedená! **(u velkého serveru může zastavení trvat i půl hodiny)

253

* Pokud se převáděla konfigurace výpůjčního protokolu je potřeba projít a opravit podmínky v následujících částek nastavení, jinak by spadla reindexace:

254

** Kategorie operací

255

** Pravidla registrací

256

** Prohledávané oblasti

257

** Definice webů - nastavit také výp. kategorii **Nezobrazovat na WWW** ((itemBorrowCategoryId IS NULL OR itemBorrowCategoryId <> 3)) - ID se liší podle převodu

258

* Na poslední záložce **Naplánované úlohy** spustit postupně od shora jednotlivé operace

259

** u malé knihovny nečekat na dokončení a lze pustit od shora najednou

260

** u velké knihovny pustit 1., 2., 3., počkat na dokončení a poté pustit 4. a po dokončení pustit 5. a po dokončení pustit 6.

261

262

== Závěrečné důležité operace ==

263

264

* **Restart Tomcatu pomocí tools** (vyčistí se paměť po importu) !!!(((

265

266

)))

267

* **Provést nastavení podle checklist!!!!**

268

* **Přečíst 2.1 Tipy a Triky na začátku stránky!**

269

270

= Regulární výrazy pro opravy dat =

271

272

Všechny nové regulární výrazy je třeba nejprve otestovat vývojářem - **ReplaceHelperTest**.

|(((

== Autority ==

| Pole 100 obsahuje podpole 4.|

279

280

{{{100\\ [\\ 0-9]{2}\\ \\$4.*}}}|

281

282

{{{100 1 $4070}}}| |(% colspan="1" %)Celé pole se zahodí.

| Obsahuje pole 1??|

{{{(1\?\?\ )(.*,.*)§100 $2}}}

287

288

{{{(1\?\?\ )(.*)§110 $2}}}|

289

290

{{{1?? $aAudoly, Sylvie}}}|

291

292

{{{100 $aAudoly, Sylvie}}}|(% colspan="1" %)Pokusí se rozpoznat zda se jedná o osobní jméno, nebo korporaci (pokud je osobní jméno, obsahuje hodnota čárku)

293

294

|(% colspan="1" %)Pole 1XXa je prázdné|(% colspan="1" %)

{{{^1??.*\\$a$}}}|

{{{199 $a}}}|(% colspan="1" %) |Odstraní se celé opakování pole

299

300

|(% colspan="1" %)Obsahuje pole 100 a 110|(% colspan="1" %)

{{{^110.*}}}|

{{{100 1 $aRoni, Luigi 110 2 $aRoni, Luigii}}}|

305

306

{{{100 1 $aRoni, Luigi}}}|(% colspan="1" %)Odstraní opakování pole 110

== Díla ==

|Odkazy na soubory v NAWEB obsahují před adresářem neplatné znaky.|

312

313

{{{(X00[\ ]{4}.*\$[uo]).*(NAWEB.*)(\$.*)§$1$2$3 (X00[\ ]{4}.*\$[uo]).*(NAWEB.*)§$1$2}}}|

314

315

{{{X00 $uW:\NAWEB\OBSAHY\N38492.pdf$tObsah$oNAWEB\2016_Knihy\N38492.jpg X00 $uW:\NAWEB\OBSAHY\N38492.pdf$tObsah$oW:\NAWEB\2016_Knihy\N38492.jpg X00 $uNAWEB\OBSAHY\N38492.pdf$tObsah$oW:\NAWEB\2016_Knihy\N38492.jpg X00 $oW:\NAWEB\OBSAHY\N38492.pdf$tObsah$uNAWEB\2016_Knihy\N38492.jpg X00 $oW:\NAWEB\OBSAHY\N38492.pdf$tObsah$uW:\NAWEB\2016_Knihy\N38492.jpg X00 $oNAWEB\OBSAHY\N38492.pdf$tObsah$uW:\NAWEB\2016_Knihy\N38492.jpg}}}|

316

317

{{{X00 $uNAWEB\OBSAHY\N38492.pdf$tObsah$oNAWEB\2016_Knihy\N38492.jpg X00 $uNAWEB\OBSAHY\N38492.pdf$tObsah$oNAWEB\2016_Knihy\N38492.jpg X00 $uNAWEB\OBSAHY\N38492.pdf$tObsah$oNAWEB\2016_Knihy\N38492.jpg X00 $oNAWEB\OBSAHY\N38492.pdf$tObsah$uNAWEB\2016_Knihy\N38492.jpg X00 $oNAWEB\OBSAHY\N38492.pdf$tObsah$uNAWEB\2016_Knihy\N38492.jpg X00 $oNAWEB\OBSAHY\N38492.pdf$tObsah$uNAWEB\2016_Knihy\N38492.jpg}}}|(% colspan="1" %)Odstraní znaky co nepatří před NAWEB.

318

319

|(% colspan="1" %)X00 odakzuje na adresář, který neexistuje z důvodu velikosti písmen na linuxu (velikost písmen se musí shodovat).|(% colspan="1" %)

320

321

{{{(X00[\ ]{4}\$[ou]NAWEB[\\/])OBSAHY([\\/].*)§$1Obsahy$2}}}|

322

323

{{{X00 $oNAWEB/OBSAHY/NC3404.pdf}}}|

324

325

{{{X00 $oNAWEB/Obsahy/NC3404.pdf}}}|(% colspan="1" %)Změna velikosti písmen "OBSAHY" → "Obsahy". Regulární příkaz se musí dát až za regulární příkaz opravující validnost cesty.

326

327

|(% colspan="1" %)Obsahuje pole ???.|(% colspan="1" %)

{{{^\?\?\?.*}}}|

{{{??? $aCzech Republic$eautomapa}}}|(% colspan="1" %) |Odstraní otazníkové pole.

332

333

|(% colspan="1" %)1XX4 nebo 7XX4 obsahuje neexistující kód role|(% colspan="1" %)