Zdrojový kód wiki Postup převodu dat z Clavia

Version 31.1 by Jan Šimeček on 2024/06/28 10:34

Show last authors
1
2
3 = Záloha dat Clavia pro převod do Tritia =
4
5 Postup pro malé knihovny k poslání je zde: [[Záloha dat Clavia pro převod do Tritia>>doc:.Zaloha-dat-Clavia-pro-prevod-do-Tritia.WebHome]]
6
7 = Převod =
8
9 == Tipy a Triky ==
10
11 {{html}}
12 <button onclick="toggleContent('content1')">Tipy a Triky - přečíst</button>
13 <div id="content1" style="display: none;">
14 <p>Revize se nepřevádí, musí být před zahájením převodu do Tritia uzavřena.</p>
15 <p>Dispečink Clavia se nepřevádí, pokud data potřebují, tak si je musí před vypnutím Clavia opsat.</p>
16 <p>Statistiky LWWW se nepřevádí, knihovna si je musí opsat.</p>
17 <p>Neměnit klíč v definici poplatků po testovacím převodu, nepovede se pak napojení poplatků při dalším importu - měnit až po posledním importu knihovny.</p>
18 <p>Neměnit zkratky v odděleních, nebude fungovat vazba výchozího oddělení čtenáře - měnit až po ostrém startu.</p>
19 </div>
20 <script>
21 function toggleContent(contentId) {
22 var content = document.getElementById(contentId);
23 if (content.style.display === "none") {
24 content.style.display = "block";
25 } else {
26 content.style.display = "none";
27 }
28 }
29 </script>
30 {{/html}}
31
32 == Příprava převodu ==
33
34 * Zeptat se knihovny před převodem: [[Dotazy na knihovnu před převodem>>doc:.Dotazy-na-knihovnu-pred-prevodem.WebHome]]
35 * Zálohu rozbalovat přes **{{html}}<span style="color: red;">Total Commander </span>{{/html}}**- ne přes Windows průzkumníka!!!
36
37 1. **{{html}}<span style="color: green;">Aktualizovat Clavius</span>{{/html}}** na současnou verzi (Pomůcky → Update přes internet)
38 1. **{{html}}<span style="color: green;">Provést synchronizaci polí</span>{{/html}}** (Pomůcky → Editace polí → Sync → Aktualizovat)
39 1. **{{html}}<span style="color: green;">Provést kontrolu integrit dat </span>{{/html}}**(chyby opravovat !!! hlavně dogenerovat autority a smazat chybná pole)
40 1*. Katalogizace:
41 1**. **do integrit with .t.,.t. **( lze využít i příkazu **do tritius** , dělá to samé )
42 1***. vyzve ke sloučení slovníků C1 a C3 do C1 - dát ano
43 1**. **do OKindik with .T.**
44 1*. Výpůjčák
45 1**. Clex.exe → Systém → Provést Kontrolu integrity dat)
46 1. **{{html}}<span style="color: green;">pohled([select !s.scislo, s.pcislo, s.ucislo, #s.ckod from svazky s, (select ckod from svazky group by ckod having count(*)>1) s1 where s.ckod<>'' and s.ckod=s1.ckod order by s.ckod])</span>{{/html}}**
47 1*. duplicity čárových kódů svazků řešit ve foxíku tak že za čárový kód přídáte písmeno a,b,c ...  kromě prvního výskytu čárového kódu
48 1. **{{html}}select isxn, count(*) as pocet from tituly group by isxn order by pocet desc{{/html}}**
49 1*. kontrola na duplicitu ISBN
50
51 == Vlastní export dat z Clavia - automaticky (verze Clavia od 28.2.2019) ==
52
53 * **{{html}}<span style="color: red;">Pokud se jedná o reksové centrum, musí export probíhat pod uživatelem Správce Reksu!!</span>{{/html}}** ( Systém - Servis dat - Výběr jiné knihovny - zaškrtnout Správce REKSu - OK )
54 * Při importu REKS knihovny = přečíst oddíl 2.5 ( možná úprava svazků v Claviu )
55 * ve foxíku spustit:
56 * **do FULLEXPORT**
57 ** -vyzve ke kontrole OKAcisla - dát ano a lze jít spát, bude následně automaticky pokračovat export tagů
58 * TAG soubory se automaticky vygenerují do složky TXT ve složce Clavius
59
60 == Příprava CLAVIUS SQL ==
61 {{html}}
62 <button onclick="toggleContent('content4')">NASQL</button>
63 <div id="content4" style="display: none;">
64 Pro převod dat akvizice, výpůjčního protokolu a další částí se používá přímý převod do Tritiia z SQL databáze Clavius.
65 Proto je nutné převést celý Clavius do SQL (lze využít SQL server pro Tritius), tento krok lze vynechat jen pokud se importuje pouze fond.
66
67 * postup vytvoření databáze clavius na SQL serveru a převodu dat Clavia pomocí **NASQL.EXE** viz: [[http:~~/~~/www.vkta.cz/LANius/diskety/sql/mssql.htm>>url:http://www.vkta.cz/LANius/diskety/sql/mssql.htm]] pro MSSQL
68 * není potřeba nic nastavovat pouze je potřeba SQL uživatel který má plná práva pro databázi clavius
69 </div>
70 <script>
71 function toggleContent(contentId) {
72 var content = document.getElementById(contentId);
73 if (content.style.display === "none") {
74 content.style.display = "block";
75 } else {
76 content.style.display = "none";
77 }
78 }
79 </script>
80 {{/html}}
81
82 == Importování knihovny pokud v cílovém Tritiu již je část svazků (např. Výměnné soubory) ==
83
84 V případě připojování dat je nutná existence čárového kódu v tabulce svazky u výměnných souborů, aby došlo ke správnému napárování:
85
86
87 {{html}}
88 <button onclick="toggleContent('content2')">Postup kontroly a příkazy pro vygenerování</button>
89 <div id="content2" style="display: none;">
90 <p><b>Kontrola dat v Claviu, jestli obsahují vygenerovaný správně ckod, kdy 31840 - je prefix nadřízené knihovny:</b></p>
91 <br>
92 <p>browse for betw(val(pcislo),500000,599999) and !empt(ckod) and ckod<>'31840'</p>
93 <br>
94 <p><b>Pokud nic nevrátí, tak netřeba dělat! V opačném případě je potřeba předem dogenerovat do svazky.ckod čárový kód s prefiem nadřízené knihovny:</b></p>
95 <br>
96 <p>browse for betw(val(pcislo),500000,599999) and betw(len(allt(ckod)),0,8)</p>
97 <br>
98 <p>repl ckod with '31840'+padl(allt(pcislo),8,'0') for betw(val(pcislo),500000,599999) and betw(len(allt(ckod)),0,8)</p>
99 <p>repl ckod with '31840'+right(ckod,7) for betw(val(pcislo),500000,599999) and !empt(ckod) and ckod<>'31840'</p>
100 <br><br>
101 </div>
102 <script>
103 function toggleContent(contentId) {
104 var content = document.getElementById(contentId);
105 if (content.style.display === "none") {
106 content.style.display = "block";
107 } else {
108 content.style.display = "none";
109 }
110 }
111 </script>
112 {{/html}}
113
114 Je nutné zkontrolovat u VS, aby svazky měli {{html}}<span style="color: red;">vyplněný</span>{{/html}} CKOD (viz výše) a poté {{html}}<span style="color: red;">PIDKN</span>{{/html}} obsahovalo znak {{html}}<span style="color: red;">˙</span>{{/html}} :
115
116 {{html}}
117 <button onclick="toggleContent('content3')">Postup kontroly a příkazy pro vygenerování</button>
118 <div id="content3" style="display: none;">
119 <p><b>Kontrola:</b></p>
120 <p>pohled("SELECT * FROM svazky where ckod <> ' ' AND ckod not like 'prefixImportovaneREKSovky%' AND pidkn != '˙'")</p>
121 <p></p>
122 <p><b>Oprava:</b></p>
123 <p>pohled("UPDATE svazky SET pidkn = '˙' where ckod <> ' ' AND ckod not like 'prefixImportovaneREKSovky%' AND pidkn != '˙'")</p>
124 <br><br>
125 </div>
126 <script>
127 function toggleContent(contentId) {
128 var content = document.getElementById(contentId);
129 if (content.style.display === "none") {
130 content.style.display = "block";
131 } else {
132 content.style.display = "none";
133 }
134 }
135 </script>
136 {{/html}}
137
138 //Rozdíly oproti bodu 2.6.2 Import dat~://
139
140 1. **Díla:**
141
142 *
143 ** vybrat v roletce pro duplicity: Kontroluje duplicitu čárových kódů - duplicitní čárové kódy neimportuje a nepřidá je failed souboru
144 *** doporučuji použít až na druhý pokus a okem zkontrolovat, že jsou to opravdu duplicity s knihovnou, která už je na serveru
145
146 1. **Výpůjčky:**
147
148 *
149 ** Vybrat KPUJCKY_REKS a neimportovat KPUJCKY!
150
151 == Import dat v Tritiu, pokud v cílovém Tritiu není část svazků (např. Výměnné soubory) ==
152
153 === Založení knihovny v Tritiu ===
154
155 Je potřeba zaregistrovat novou knihovnu v Tritiu (Přihlášení do Tritia tlačítko Registrovat)
156
157 Při převádění REKSového Clavia nebo převádění knihovny, která má Carmen (Knihovna s REKSovkami - Clavius neobsahuje pouze jednu knihovnu) nedávat po registraci vytvořit webovou definici - vznikne naimportováním DEFWEB, kdy dojde k založení webové definice pro každou REKSovou knihovnu.
158
159 ~!!!Pokud se jedná o sdílený server, kde již běží knihovny na ostro, tak provést zálohu databáze, kdyby se něco zvrtlo co nedokáže [[Postup Odstranění importovaných dat>>url:https://confluence.tritius.cz/pages/viewpage.action?pageId=102925148]] vyřešit a bylo potřeba provést obnovení!!!
160
161 ~!!!Před zahájením zkontrolovat dostatek místa na disku VM!!!.
162
163 Kontrolu lze provést 2 způsoby:
164
165 1. přes putty pomocí příkazu df -h
166 1. v Zabixxu: Sledování → Obrazovky → VM Overview → Hostitel vybrat VM a podívat se na graf Disk space usage
167
168 === Import dat ===
169
170 Import REKS: nezapomenout **zamknout** slovníky (především klíčová slova, popřípadě dodavatele)
171
172 **POZOR!!!!**: kontrola na existenci A podpolí v Tritiu, které zbyli od minulého importu, pokud ano tak smazat před importem!:
173
174 |
175
176 {{{select count(*) from authority_data where subfield_definition in (
177 select id from subfield_definition where name_sub='A')
178
179 select count(*) from work_data where subfield_definition in (
180 select id from subfield_definition where name_sub='A')
181
182 dále:
183 Po zapnutí Importovacího módu nesmí tabulka import_id_backup obsahovat jediný řádek, který má ve sloupci library ID právě převáděné knihovny, tedy select * from import_id_backup where library = ID_prave_prevadene_knihovny musí vrátit 0 . }}}
184
185 * Pokud importuji do knihovny s defaultně jiným jazykem (slovenské knihovny) musím před importem správně nastavit **SYSTEM_DEFAULT_LANGUAGE **tak i** LOCALE.**
186 * Pokud se nejedná o multiknihovní instanci, nastavit v položkách nastavení **MULTI_LIBRARY_INSTANCE** na false ( -304 ) - musí se provést před importem vzkazů čtenářů.
187 * V záložce **Systém** je volba **Import dat**
188 * Spustí se importní mód - běžní uživatelé se do knihovny v importním módu nemohou přihlásit
189 * //Doporučení - naimportovat dump databáze na VM s Tritiem pod uživatelem root (import je řádově rychlejší)//
190 * URL spojení databázi Clavius SQL kde jsou výpůjčky :
191 ** Pro MySQL: **jdbc:mysql:~/~/server.lanius.cz:3306///<databaseName>//?useUnicode=true&characterEncoding=UTF-8&serverTimezone=Europe/Prague**
192 ** Pro MSSQL: **jdbc:sqlserver:~/~/192.168.0.24:1433;databaseName=//<databaseName>//**;SendStringParametersAsUnicode=False;
193 * Zadáte uživatele a heslo pro připojení do databáze a tlačítkem **Připojit** provedete spojení (po úspěchu se tlačítko změní na **Odpojit**)
194 * **Start import mode**
195 * Postupně procházíme jednotlivé záložky zleva do prava. Vynecháváme ty které nejsou vždy (akvizice, webový katalog Carmen)
196 ** **Záložka Definice** - vybrat postupně po jedné definiční tabulky a dejte **Importuj** vybrané tabulky (v případě opakovaného importu podruhé neprovádět !!!)
197 *** **Definici webů (DEFWEB)** importovat pouze pro REKSové knihovny (při převodu do sdílené knihovny je třeba založit ručně při registraci knihovny)
198 *** Pokud se nepodaří v případě knihovny, která má Carmen převést DEFWEB, tak stačí v Tritius založit ručně webovou definici a do import_id vyplnit ID, které se najde v databázi Clavia:
199 *** SELECT distinct defWebId FROM car_cloud;
200
201 *
202 ** //Doporučení - Pokud se jedná o převod větší knihovny, tak po importu větších dat (autorit, díla, poplatky, čtenáři, výpůjčky, ...) dělat zálohu databáze//
203 ** **Záložka Autority (u REKSovky zvážit neimportování!)**:
204 *** tlačítko Nahrát soubor nalistujeme **AUTORITY.TAG** a po jeho nahrání jej vybereme a dáme Importovat. Po importu jsou chybné, neimportované záznamy v souboru failed
205 ** Pokud je soubor velký desítky MB a nejde nahrát zkuste přímou adresu např.  : [[http:~~/~~/192.168.0.250:8080/Tritius/>>url:http://192.168.0.250:8080/Tritius/cz.effectiva.tritius.Application/Application.html#Import_wizard]]  takto obejdete Apache web server
206 ** **Záložka Díla a Svazky (u REKSovky zvážit ztitulování a neskládání autorit!):**
207 *** obsah složky **NAWEB** z Clavia (pokud existuje) - v průvodci importu dat je na záložce import děl tlačítko, které nahraje zabalenou složku (NAWEB.zip) do příslušné složky a rozbalí. (dříve - ručně nakopírovat do složky Tritia (\tritius\files\Clavius\WORK\NAWEB)
208 *** Pozor: zkontrolovat názvy souborů pokud obsahují mezery nebo znaky s diakritikou nedojde k propojení !!!
209 *** Typ importu duplicit - kontroluje duplicitu podle typu dokumentu a ISBN, popřípadě podle typu dokumentu, názvu, autora a roku (Zkontrolovat duplicity ISBN v TAGu)
210 *** Přes Nahrát soubor vybereme **DATA.TAG** a po jeho nahrání jej vybereme a dáme Importovat. Po importu jsou chybné, neimportované záznamy v souboru failed
211 *** Problémové záznamy v souboru failed, které se nenaimportovaly, je potřeba hned řešit tzn. **opravit a opakovaně importovat teprve pak se může pokračovat**!
212 ** **Čtenáři:**
213 *** Vybrat CTENARI nebo CTENARI_DO_VSECH_KNIHOVEN - neimportovat obě!
214 ** **MVS**
215 *** Lepší Vytvářet nové záznamy, aby nedocházelo k propojení rezervací na MVS.
216 ** **Záložka Výpůjčky**:
217 *** Vybrat KPUJCKY nebo KPUJCKY_REKS - neimportovat obě!
218 *** postupně po jednotlivých tabulkách importovat a v logu kontrolovat provedení.
219 *** **Poplatky **- způsob uhrazení (poplatek.kartou)
220 **** 0 - platba v hotovosti
221 **** 1, 2, 3, 4 - platba kartou
222 **** 5, 6, 7 - platba na účet
223 **** 8, 9 - platba kreditem
224 * //Odstranit z VM databázi Clavia, pokud byla naimportována do VM.//
225
226 === Odstranění importovaných dat ===
227
228 Pokud dojde během importu k problému s některou částí importu (kromě nastavení), tak ji lze smazat pomocí: [[Postup Odstranění importovaných dat>>url:https://confluence.tritius.cz/pages/viewpage.action?pageId=102925148]]
229
230 == Nastavení po importu ==
231
232 * **Před ukončením importního módu je třeba vytvořit zálohu databáze.**
233 * **Ukončit import mód - až v momentě, kdy jsou všechna data správně převedená! **(u velkého serveru může zastavení trvat i půl hodiny)
234 * Pokud se převáděla konfigurace výpůjčního protokolu je potřeba projít a opravit podmínky v následujících částek nastavení, jinak by spadla reindexace:
235 ** Kategorie operací
236 ** Pravidla registrací
237 ** Prohledávané oblasti
238 ** Definice webů - nastavit také výp. kategorii **Nezobrazovat na WWW** ((itemBorrowCategoryId IS NULL OR itemBorrowCategoryId <> 3)) - ID se liší podle převodu
239 * Na poslední záložce **Naplánované úlohy** spustit postupně od shora jednotlivé operace
240 ** u malé knihovny nečekat na dokončení a lze pustit od shora najednou
241 ** u velké knihovny pustit 1., 2., 3., počkat na dokončení a poté pustit 4. a po dokončení pustit 5. a po dokončení pustit 6.
242
243 == Závěrečné důležité operace ==
244
245 * **Restart Tomcatu pomocí tools** (vyčistí se paměť po importu) !!!(((
246
247 )))
248 * **Provést nastavení podle checklist!!!!**
249 * **Přečíst 2.1 Tipy a Triky na začátku stránky!**
250
251 = Regulární výrazy pro opravy dat =
252
253 Všechny nové regulární výrazy je třeba nejprve otestovat vývojářem - **ReplaceHelperTest**.
254
255 |(((
256 == Autority ==
257
258 |=Popis problému|=Regulární výraz|=Vstup|=Výstup|=(% colspan="1" %)Poznámka
259 | Pole 100 obsahuje podpole 4.|
260
261 {{{100\\ [\\ 0-9]{2}\\ \\$4.*}}}|
262
263 {{{100 1  $4070}}}| |(% colspan="1" %)Celé pole se zahodí.
264
265 | Obsahuje pole 1??|
266
267 {{{(1\?\?\ )(.*,.*)§100 $2}}}
268
269 {{{(1\?\?\ )(.*)§110 $2}}}|
270
271 {{{1??  $aAudoly, Sylvie}}}|
272
273 {{{100 $aAudoly, Sylvie}}}|(% colspan="1" %)Pokusí se rozpoznat zda se jedná o osobní jméno, nebo korporaci (pokud je osobní jméno, obsahuje hodnota čárku)
274
275 |(% colspan="1" %)Pole 1XXa je prázdné|(% colspan="1" %)
276
277 {{{^1??.*\\$a$}}}|
278
279 {{{199  $a}}}|(% colspan="1" %) |Odstraní se celé opakování pole
280
281 |(% colspan="1" %)Obsahuje pole 100 a 110|(% colspan="1" %)
282
283 {{{^110.*}}}|
284
285 {{{100 1 $aRoni, Luigi 110 2 $aRoni, Luigii}}}|
286
287 {{{100 1 $aRoni, Luigi}}}|(% colspan="1" %)Odstraní opakování pole 110
288
289 == Díla ==
290
291 |=Popis problému|=Regulární výraz|=Vstup|=Výstup|=(% colspan="1" %)Poznámka
292 |Odkazy na soubory v NAWEB obsahují před adresářem neplatné znaky.|
293
294 {{{(X00[\ ]{4}.*\$[uo]).*(NAWEB.*)(\$.*)§$1$2$3 (X00[\ ]{4}.*\$[uo]).*(NAWEB.*)§$1$2}}}|
295
296 {{{X00 $uW:\NAWEB\OBSAHY\N38492.pdf$tObsah$oNAWEB\2016_Knihy\N38492.jpg X00 $uW:\NAWEB\OBSAHY\N38492.pdf$tObsah$oW:\NAWEB\2016_Knihy\N38492.jpg X00 $uNAWEB\OBSAHY\N38492.pdf$tObsah$oW:\NAWEB\2016_Knihy\N38492.jpg X00 $oW:\NAWEB\OBSAHY\N38492.pdf$tObsah$uNAWEB\2016_Knihy\N38492.jpg X00 $oW:\NAWEB\OBSAHY\N38492.pdf$tObsah$uW:\NAWEB\2016_Knihy\N38492.jpg X00 $oNAWEB\OBSAHY\N38492.pdf$tObsah$uW:\NAWEB\2016_Knihy\N38492.jpg}}}|
297
298 {{{X00 $uNAWEB\OBSAHY\N38492.pdf$tObsah$oNAWEB\2016_Knihy\N38492.jpg X00 $uNAWEB\OBSAHY\N38492.pdf$tObsah$oNAWEB\2016_Knihy\N38492.jpg X00 $uNAWEB\OBSAHY\N38492.pdf$tObsah$oNAWEB\2016_Knihy\N38492.jpg X00 $oNAWEB\OBSAHY\N38492.pdf$tObsah$uNAWEB\2016_Knihy\N38492.jpg X00 $oNAWEB\OBSAHY\N38492.pdf$tObsah$uNAWEB\2016_Knihy\N38492.jpg X00 $oNAWEB\OBSAHY\N38492.pdf$tObsah$uNAWEB\2016_Knihy\N38492.jpg}}}|(% colspan="1" %)Odstraní znaky co nepatří před NAWEB.
299
300 |(% colspan="1" %)X00 odakzuje na adresář, který neexistuje z důvodu velikosti písmen na linuxu (velikost písmen se musí shodovat).|(% colspan="1" %)
301
302 {{{(X00[\ ]{4}\$[ou]NAWEB[\\/])OBSAHY([\\/].*)§$1Obsahy$2}}}|
303
304 {{{X00 $oNAWEB/OBSAHY/NC3404.pdf}}}|
305
306 {{{X00 $oNAWEB/Obsahy/NC3404.pdf}}}|(% colspan="1" %)Změna velikosti písmen "OBSAHY" → "Obsahy". Regulární příkaz se musí dát až za regulární příkaz opravující validnost cesty.
307
308 |(% colspan="1" %)Obsahuje pole ???.|(% colspan="1" %)
309
310 {{{^\?\?\?.*}}}|
311
312 {{{???  $aCzech Republic$eautomapa}}}|(% colspan="1" %) |Odstraní otazníkové pole.
313
314 |(% colspan="1" %)1XX4 nebo 7XX4 obsahuje neexistující kód role|(% colspan="1" %)
315
316 {{{(^[710]{3}.*)(\$4sut)(.*)§$1$3}}}|
317
318 {{{100 1  $A1000239919$aLiker, Jeffrey K.$7xx0031426$4sut}}}|
319
320 {{{100 1  $A1000239919$aLiker, Jeffrey K.$7xx0031426}}}|(% colspan="1" %)kód role z autority Neznámý kód role odstraní.
321
322
323 )))
324
325 ~{~{/html}}~{~{/html}}