Made the temp file policy configurable by zebra.cfg (tempfiles: yes/Auto/no)
[idzebra-moved-to-github.git] / doc / administration.xml
1 <chapter id="administration">
2  <!-- $Id: administration.xml,v 1.17 2004-01-22 16:23:23 heikki Exp $ -->
3  <title>Administrating Zebra</title>
4  <!-- ### It's a bit daft that this chapter (which describes half of
5           the configuration-file formats) is separated from
6           "recordmodel.xml" (which describes the other half) by the
7           instructions on running zebraidx and zebrasrv.  Some careful
8           re-ordering is required here.
9  -->
10
11  <para>
12   Unlike many simpler retrieval systems, Zebra supports safe, incremental
13   updates to an existing index.
14  </para>
15  
16  <para>
17   Normally, when Zebra modifies the index it reads a number of records
18   that you specify.
19   Depending on your specifications and on the contents of each record
20   one the following events take place for each record:
21   <variablelist>
22    
23    <varlistentry>
24     <term>Insert</term>
25     <listitem>
26      <para>
27       The record is indexed as if it never occurred before.
28       Either the Zebra system doesn't know how to identify the record or
29       Zebra can identify the record but didn't find it to be already indexed.
30      </para>
31     </listitem>
32    </varlistentry>
33    <varlistentry>
34     <term>Modify</term>
35     <listitem>
36      <para>
37       The record has already been indexed.
38       In this case either the contents of the record or the location
39       (file) of the record indicates that it has been indexed before.
40      </para>
41     </listitem>
42    </varlistentry>
43    <varlistentry>
44     <term>Delete</term>
45     <listitem>
46      <para>
47       The record is deleted from the index. As in the
48       update-case it must be able to identify the record.
49      </para>
50     </listitem>
51    </varlistentry>
52   </variablelist>
53  </para>
54  
55  <para>
56   Please note that in both the modify- and delete- case the Zebra
57   indexer must be able to generate a unique key that identifies the record 
58   in question (more on this below).
59  </para>
60  
61  <para>
62   To administrate the Zebra retrieval system, you run the
63   <literal>zebraidx</literal> program.
64   This program supports a number of options which are preceded by a dash,
65   and a few commands (not preceded by dash).
66 </para>
67  
68  <para>
69   Both the Zebra administrative tool and the Z39.50 server share a
70   set of index files and a global configuration file.
71   The name of the configuration file defaults to
72   <literal>zebra.cfg</literal>.
73   The configuration file includes specifications on how to index
74   various kinds of records and where the other configuration files
75   are located. <literal>zebrasrv</literal> and <literal>zebraidx</literal>
76   <emphasis>must</emphasis> be run in the directory where the
77   configuration file lives unless you indicate the location of the 
78   configuration file by option <literal>-c</literal>.
79  </para>
80  
81  <sect1 id="record-types">
82   <title>Record Types</title>
83   
84   <para>
85    Indexing is a per-record process, in which either insert/modify/delete
86    will occur. Before a record is indexed search keys are extracted from
87    whatever might be the layout the original record (sgml,html,text, etc..).
88    The Zebra system currently supports two fundamental types of records:
89    structured and simple text.
90    To specify a particular extraction process, use either the
91    command line option <literal>-t</literal> or specify a
92    <literal>recordType</literal> setting in the configuration file.
93   </para>
94   
95  </sect1>
96  
97  <sect1 id="configuration-file">
98   <title>The Zebra Configuration File</title>
99   
100   <para>
101    The Zebra configuration file, read by <literal>zebraidx</literal> and
102    <literal>zebrasrv</literal> defaults to <literal>zebra.cfg</literal>
103    unless specified by <literal>-c</literal> option.
104   </para>
105   
106   <para>
107    You can edit the configuration file with a normal text editor.
108    parameter names and values are separated by colons in the file. Lines
109    starting with a hash sign (<literal>#</literal>) are
110    treated as comments.
111   </para>
112   
113   <para>
114    If you manage different sets of records that share common
115    characteristics, you can organize the configuration settings for each
116    type into "groups".
117    When <literal>zebraidx</literal> is run and you wish to address a
118    given group you specify the group name with the <literal>-g</literal>
119    option.
120    In this case settings that have the group name as their prefix 
121    will be used by <literal>zebraidx</literal>.
122    If no <literal>-g</literal> option is specified, the settings
123    without prefix are used.
124   </para>
125   
126   <para>
127    In the configuration file, the group name is placed before the option
128    name itself, separated by a dot (.). For instance, to set the record type
129    for group <literal>public</literal> to <literal>grs.sgml</literal>
130    (the SGML-like format for structured records) you would write:
131   </para>
132   
133   <para>
134    <screen>
135     public.recordType: grs.sgml
136    </screen>   
137   </para>
138   
139   <para>
140    To set the default value of the record type to <literal>text</literal>
141    write:
142   </para>
143   
144   <para>
145    <screen>
146     recordType: text
147    </screen>
148   </para>
149   
150   <para>
151    The available configuration settings are summarized below. They will be
152    explained further in the following sections.
153   </para>
154   
155   <!--
156    FIXME - Didn't Adam make something to have multiple databases in multiple dirs...
157   -->
158   
159   <para>
160    <variablelist>
161     
162     <varlistentry>
163      <term>
164       <emphasis>group</emphasis>
165       .recordType[<emphasis>.name</emphasis>]:
166       <replaceable>type</replaceable>
167      </term>
168      <listitem>
169       <para>
170        Specifies how records with the file extension
171        <emphasis>name</emphasis> should be handled by the indexer.
172        This option may also be specified as a command line option
173        (<literal>-t</literal>). Note that if you do not specify a
174        <emphasis>name</emphasis>, the setting applies to all files.
175        In general, the record type specifier consists of the elements (each
176        element separated by dot), <emphasis>fundamental-type</emphasis>,
177        <emphasis>file-read-type</emphasis> and arguments. Currently, two
178        fundamental types exist, <literal>text</literal> and
179        <literal>grs</literal>.
180       </para>
181      </listitem>
182     </varlistentry>
183     <varlistentry>
184      <term><emphasis>group</emphasis>.recordId: 
185      <replaceable>record-id-spec</replaceable></term>
186      <listitem>
187       <para>
188        Specifies how the records are to be identified when updated. See
189        <xref linkend="locating-records"/>.
190       </para>
191      </listitem>
192     </varlistentry>
193     <varlistentry>
194      <term><emphasis>group</emphasis>.database:
195      <replaceable>database</replaceable></term>
196      <listitem>
197       <para>
198        Specifies the Z39.50 database name.
199        <!-- FIXME - now we can have multiple databases in one server. -H -->
200       </para>
201      </listitem>
202     </varlistentry>
203     <varlistentry>
204      <term><emphasis>group</emphasis>.storeKeys:
205      <replaceable>boolean</replaceable></term>
206      <listitem>
207       <para>
208        Specifies whether key information should be saved for a given
209        group of records. If you plan to update/delete this type of
210        records later this should be specified as 1; otherwise it
211        should be 0 (default), to save register space.
212        <!-- ### this is the first mention of "register" -->
213        See <xref linkend="file-ids"/>.
214       </para>
215      </listitem>
216     </varlistentry>
217     <varlistentry>
218      <term><emphasis>group</emphasis>.storeData:
219       <replaceable>boolean</replaceable></term>
220      <listitem>
221       <para>
222        Specifies whether the records should be stored internally
223        in the Zebra system files.
224        If you want to maintain the raw records yourself,
225        this option should be false (0).
226        If you want Zebra to take care of the records for you, it
227        should be true(1).
228       </para>
229      </listitem>
230     </varlistentry>
231     <varlistentry>
232      <!-- ### probably a better place to define "register" -->
233      <term>register: <replaceable>register-location</replaceable></term>
234      <listitem>
235       <para>
236        Specifies the location of the various register files that Zebra uses
237        to represent your databases.
238        See <xref linkend="register-location"/>.
239       </para>
240      </listitem>
241     </varlistentry>
242     <varlistentry>
243      <term>shadow: <replaceable>register-location</replaceable></term>
244      <listitem>
245       <para>
246        Enables the <emphasis>safe update</emphasis> facility of Zebra, and
247        tells the system where to place the required, temporary files.
248        See <xref linkend="shadow-registers"/>.
249       </para>
250      </listitem>
251     </varlistentry>
252     <varlistentry>
253      <term>lockDir: <replaceable>directory</replaceable></term>
254      <listitem>
255       <para>
256        Directory in which various lock files are stored.
257       </para>
258      </listitem>
259     </varlistentry>
260     <varlistentry>
261      <term>keyTmpDir: <replaceable>directory</replaceable></term>
262      <listitem>
263       <para>
264        Directory in which temporary files used during zebraidx's update
265        phase are stored. 
266       </para>
267      </listitem>
268     </varlistentry>
269     <varlistentry>
270      <term>setTmpDir: <replaceable>directory</replaceable></term>
271      <listitem>
272       <para>
273        Specifies the directory that the server uses for temporary result sets.
274        If not specified <literal>/tmp</literal> will be used.
275       </para>
276      </listitem>
277     </varlistentry>
278     <varlistentry>
279      <term>profilePath: <replaceable>path</replaceable></term>
280      <listitem>
281       <para>
282        Specifies a path of profile specification files. 
283        The path is composed of one or more directories separated by
284        colon. Similar to PATH for UNIX systems.
285       </para>
286      </listitem>
287     </varlistentry>
288     <varlistentry>
289      <term>attset: <replaceable>filename</replaceable></term>
290      <listitem>
291       <para>
292        Specifies the filename(s) of attribute set files for use in
293        searching. At least the Bib-1 set should be loaded
294        (<literal>bib1.att</literal>).
295        The <literal>profilePath</literal> setting is used to look for
296        the specified files.
297        See <xref linkend="attset-files"/>
298       </para>
299      </listitem>
300     </varlistentry>
301     <varlistentry>
302      <term>memMax: <replaceable>size</replaceable></term>
303      <listitem>
304       <para>
305        Specifies <replaceable>size</replaceable> of internal memory
306        to use for the zebraidx program.
307        The amount is given in megabytes - default is 4 (4 MB).
308        The more memory, the faster large updates happen, up to about
309        half the free memory available on the computer.
310       </para>
311      </listitem>
312     </varlistentry>
313     <varlistentry>
314      <term>tempfiles: <replaceable>Yes/Auto/No</replaceable></term>
315      <listitem>
316       <para>
317        Tells zebra if it should use temporary files when indexing. The
318        default is Auto, in which case zebra uses temporary files only
319        if it would need more that <replaceable>memMax</replaceable> 
320        megabytes of memory. This should be good for most uses.
321       </para>
322      </listitem>
323     </varlistentry>
324
325     <varlistentry>
326      <term>root: <replaceable>dir</replaceable></term>
327      <listitem>
328       <para>
329        Specifies a directory base for Zebra. All relative paths
330        given (in profilePath, register, shadow) are based on this
331        directory. This setting is useful if your Zebra server
332        is running in a different directory from where
333        <literal>zebra.cfg</literal> is located.
334       </para>
335      </listitem>
336     </varlistentry>
337
338      <!--
339      no longer supported.
340     <varlistentry>
341      <term>tagsysno: 0|1</term>
342      <listitem>
343       <para>
344        Species whether Zebra should include system-number data in XML
345        and GRS-1 records returned to clients, represented by the
346        <literal>&lt;localControlNumber&gt;</literal> element in XML
347        and the <literal>(1,14)</literal> tag in GRS-1.
348        The content of these elements is an internally-generated
349        integer uniquely identifying the record within its database.
350        It is included by default but may be turned off, with
351        <literal>tagsysno: 0</literal> for databases in which a local
352        control number is explicitly specified in the input records
353        themselves.
354       </para>
355      </listitem>
356     </varlistentry>
357      -->
358      
359    </variablelist>
360   </para>
361   
362  </sect1>
363  
364  <sect1 id="locating-records">
365   <title>Locating Records</title>
366   
367   <para>
368    The default behavior of the Zebra system is to reference the
369    records from their original location, i.e. where they were found when you
370    ran <literal>zebraidx</literal>.
371    That is, when a client wishes to retrieve a record
372    following a search operation, the files are accessed from the place
373    where you originally put them - if you remove the files (without
374    running <literal>zebraidx</literal> again, the server will return
375    diagnostic number 14 (``System error in presenting records'') to
376    the client.
377   </para>
378   
379   <para>
380    If your input files are not permanent - for example if you retrieve
381    your records from an outside source, or if they were temporarily
382    mounted on a CD-ROM drive,
383    you may want Zebra to make an internal copy of them. To do this,
384    you specify 1 (true) in the <literal>storeData</literal> setting. When
385    the Z39.50 server retrieves the records they will be read from the
386    internal file structures of the system.
387   </para>
388   
389  </sect1>
390  
391  <sect1 id="simple-indexing">
392   <title>Indexing with no Record IDs (Simple Indexing)</title>
393   
394   <para>
395    If you have a set of records that are not expected to change over time
396    you may can build your database without record IDs.
397    This indexing method uses less space than the other methods and
398    is simple to use. 
399   </para>
400   
401   <para>
402    To use this method, you simply omit the <literal>recordId</literal> entry
403    for the group of files that you index. To add a set of records you use
404    <literal>zebraidx</literal> with the <literal>update</literal> command. The
405    <literal>update</literal> command will always add all of the records that it
406    encounters to the index - whether they have already been indexed or
407    not. If the set of indexed files change, you should delete all of the
408    index files, and build a new index from scratch.
409   </para>
410   
411   <para>
412    Consider a system in which you have a group of text files called
413    <literal>simple</literal>.
414    That group of records should belong to a Z39.50 database called
415    <literal>textbase</literal>.
416    The following <literal>zebra.cfg</literal> file will suffice:
417   </para>
418   <para>
419    
420    <screen>
421     profilePath: /usr/local/idzebra/tab
422     attset: bib1.att
423     simple.recordType: text
424     simple.database: textbase
425    </screen>
426
427   </para>
428   
429   <para>
430    Since the existing records in an index can not be addressed by their
431    IDs, it is impossible to delete or modify records when using this method.
432   </para>
433   
434  </sect1>
435  
436  <sect1 id="file-ids">
437   <title>Indexing with File Record IDs</title>
438   
439   <para>
440    If you have a set of files that regularly change over time: Old files
441    are deleted, new ones are added, or existing files are modified, you
442    can benefit from using the <emphasis>file ID</emphasis>
443    indexing methodology.
444    Examples of this type of database might include an index of WWW
445    resources, or a USENET news spool area.
446    Briefly speaking, the file key methodology uses the directory paths
447    of the individual records as a unique identifier for each record.
448    To perform indexing of a directory with file keys, again, you specify
449    the top-level directory after the <literal>update</literal> command.
450    The command will recursively traverse the directories and compare
451    each one with whatever have been indexed before in that same directory.
452    If a file is new (not in the previous version of the directory) it
453    is inserted into the registers; if a file was already indexed and
454    it has been modified since the last update, the index is also
455    modified; if a file has been removed since the last
456    visit, it is deleted from the index.
457   </para>
458   
459   <para>
460    The resulting system is easy to administrate. To delete a record you
461    simply have to delete the corresponding file (say, with the
462    <literal>rm</literal> command). And to add records you create new
463    files (or directories with files). For your changes to take effect
464    in the register you must run <literal>zebraidx update</literal> with
465    the same directory root again. This mode of operation requires more
466    disk space than simpler indexing methods, but it makes it easier for
467    you to keep the index in sync with a frequently changing set of data.
468    If you combine this system with the <emphasis>safe update</emphasis>
469    facility (see below), you never have to take your server off-line for
470    maintenance or register updating purposes.
471   </para>
472   
473   <para>
474    To enable indexing with pathname IDs, you must specify
475    <literal>file</literal> as the value of <literal>recordId</literal>
476    in the configuration file. In addition, you should set
477    <literal>storeKeys</literal> to <literal>1</literal>, since the Zebra
478    indexer must save additional information about the contents of each record
479    in order to modify the indexes correctly at a later time.
480   </para>
481   
482    <!--
483     FIXME - There must be a simpler way to do this with Adams string tags -H
484      -->
485
486   <para>
487    For example, to update records of group <literal>esdd</literal>
488    located below
489    <literal>/data1/records/</literal> you should type:
490    <screen>
491     $ zebraidx -g esdd update /data1/records
492    </screen>
493   </para>
494   
495   <para>
496    The corresponding configuration file includes:
497    <screen>
498     esdd.recordId: file
499     esdd.recordType: grs.sgml
500     esdd.storeKeys: 1
501    </screen>
502   </para>
503   
504   <note>
505    <para>You cannot start out with a group of records with simple
506     indexing (no record IDs as in the previous section) and then later
507     enable file record Ids. Zebra must know from the first time that you
508     index the group that
509     the files should be indexed with file record IDs.
510    </para>
511    </note>
512   
513   <para>
514    You cannot explicitly delete records when using this method (using the
515    <literal>delete</literal> command to <literal>zebraidx</literal>. Instead
516    you have to delete the files from the file system (or move them to a
517    different location)
518    and then run <literal>zebraidx</literal> with the
519    <literal>update</literal> command.
520   </para>
521   <!-- ### what happens if a file contains multiple records? -->
522 </sect1>
523  
524  <sect1 id="generic-ids">
525   <title>Indexing with General Record IDs</title>
526   
527   <para>
528    When using this method you construct an (almost) arbitrary, internal
529    record key based on the contents of the record itself and other system
530    information. If you have a group of records that explicitly associates
531    an ID with each record, this method is convenient. For example, the
532    record format may contain a title or a ID-number - unique within the group.
533    In either case you specify the Z39.50 attribute set and use-attribute
534    location in which this information is stored, and the system looks at
535    that field to determine the identity of the record.
536   </para>
537   
538   <para>
539    As before, the record ID is defined by the <literal>recordId</literal>
540    setting in the configuration file. The value of the record ID specification
541    consists of one or more tokens separated by whitespace. The resulting
542    ID is represented in the index by concatenating the tokens and
543    separating them by ASCII value (1).
544   </para>
545   
546   <para>
547    There are three kinds of tokens:
548    <variablelist>
549     
550     <varlistentry>
551      <term>Internal record info</term>
552      <listitem>
553       <para>
554        The token refers to a key that is
555        extracted from the record. The syntax of this token is
556        <literal>(</literal> <emphasis>set</emphasis> <literal>,</literal>
557        <emphasis>use</emphasis> <literal>)</literal>,
558        where <emphasis>set</emphasis> is the
559        attribute set name <emphasis>use</emphasis> is the
560        name or value of the attribute.
561       </para>
562      </listitem>
563     </varlistentry>
564     <varlistentry>
565      <term>System variable</term>
566      <listitem>
567       <para>
568        The system variables are preceded by
569        
570        <screen>
571         $
572        </screen>
573        and immediately followed by the system variable name, which
574        may one of
575        <variablelist>
576         
577         <varlistentry>
578          <term>group</term>
579          <listitem>
580           <para>
581            Group name.
582           </para>
583          </listitem>
584         </varlistentry>
585         <varlistentry>
586          <term>database</term>
587          <listitem>
588           <para>
589            Current database specified.
590           </para>
591          </listitem>
592         </varlistentry>
593         <varlistentry>
594          <term>type</term>
595          <listitem>
596           <para>
597            Record type.
598           </para>
599          </listitem>
600         </varlistentry>
601        </variablelist>
602       </para>
603      </listitem>
604     </varlistentry>
605     <varlistentry>
606      <term>Constant string</term>
607      <listitem>
608       <para>
609        A string used as part of the ID &mdash; surrounded
610        by single- or double quotes.
611       </para>
612      </listitem>
613     </varlistentry>
614    </variablelist>
615   </para>
616   
617   <para>
618    For instance, the sample GILS records that come with the Zebra
619    distribution contain a unique ID in the data tagged Control-Identifier.
620    The data is mapped to the Bib-1 use attribute Identifier-standard
621    (code 1007). To use this field as a record id, specify
622    <literal>(bib1,Identifier-standard)</literal> as the value of the
623    <literal>recordId</literal> in the configuration file.
624    If you have other record types that uses the same field for a
625    different purpose, you might add the record type
626    (or group or database name) to the record id of the gils
627    records as well, to prevent matches with other types of records.
628    In this case the recordId might be set like this:
629    
630    <screen>
631     gils.recordId: $type (bib1,Identifier-standard)
632    </screen>
633    
634   </para>
635   
636   <para>
637    (see <xref linkend="data-model"/>
638     for details of how the mapping between elements of your records and
639     searchable attributes is established).
640   </para>
641   
642   <para>
643    As for the file record ID case described in the previous section,
644    updating your system is simply a matter of running
645    <literal>zebraidx</literal>
646    with the <literal>update</literal> command. However, the update with general
647    keys is considerably slower than with file record IDs, since all files
648    visited must be (re)read to discover their IDs. 
649   </para>
650   
651   <para>
652    As you might expect, when using the general record IDs
653    method, you can only add or modify existing records with the
654    <literal>update</literal> command.
655    If you wish to delete records, you must use the,
656    <literal>delete</literal> command, with a directory as a parameter.
657    This will remove all records that match the files below that root
658    directory.
659   </para>
660   
661  </sect1>
662  
663  <sect1 id="register-location">
664   <title>Register Location</title>
665   
666   <para>
667    Normally, the index files that form dictionaries, inverted
668    files, record info, etc., are stored in the directory where you run
669    <literal>zebraidx</literal>. If you wish to store these, possibly large,
670    files somewhere else, you must add the <literal>register</literal>
671    entry to the <literal>zebra.cfg</literal> file.
672    Furthermore, the Zebra system allows its file
673    structures to span multiple file systems, which is useful for
674    managing very large databases. 
675   </para>
676   
677   <para>
678    The value of the <literal>register</literal> setting is a sequence
679    of tokens. Each token takes the form:
680    
681    <screen>
682     <emphasis>dir</emphasis><literal>:</literal><emphasis>size</emphasis>. 
683    </screen>
684    
685    The <emphasis>dir</emphasis> specifies a directory in which index files
686    will be stored and the <emphasis>size</emphasis> specifies the maximum
687    size of all files in that directory. The Zebra indexer system fills
688    each directory in the order specified and use the next specified
689    directories as needed.
690    The <emphasis>size</emphasis> is an integer followed by a qualifier
691    code, 
692    <literal>b</literal> for bytes,
693    <literal>k</literal> for kilobytes.
694    <literal>M</literal> for megabytes,
695    <literal>G</literal> for gigabytes.
696   </para>
697   
698   <para>
699    For instance, if you have allocated two disks for your register, and
700    the first disk is mounted
701    on <literal>/d1</literal> and has 2GB of free space and the
702    second, mounted on <literal>/d2</literal> has 3.6 GB, you could
703    put this entry in your configuration file:
704    
705    <screen>
706     register: /d1:2G /d2:3600M
707    </screen>
708    
709   </para>
710   
711   <para>
712    Note that Zebra does not verify that the amount of space specified is
713    actually available on the directory (file system) specified - it is
714    your responsibility to ensure that enough space is available, and that
715    other applications do not attempt to use the free space. In a large
716    production system, it is recommended that you allocate one or more
717    file system exclusively to the Zebra register files.
718   </para>
719   
720  </sect1>
721  
722  <sect1 id="shadow-registers">
723   <title>Safe Updating - Using Shadow Registers</title>
724   
725   <sect2>
726    <title>Description</title>
727    
728    <para>
729     The Zebra server supports <emphasis>updating</emphasis> of the index
730     structures. That is, you can add, modify, or remove records from
731     databases managed by Zebra without rebuilding the entire index.
732     Since this process involves modifying structured files with various
733     references between blocks of data in the files, the update process
734     is inherently sensitive to system crashes, or to process interruptions:
735     Anything but a successfully completed update process will leave the
736     register files in an unknown state, and you will essentially have no
737     recourse but to re-index everything, or to restore the register files
738     from a backup medium.
739     Further, while the update process is active, users cannot be
740     allowed to access the system, as the contents of the register files
741     may change unpredictably.
742    </para>
743    
744    <para>
745     You can solve these problems by enabling the shadow register system in
746     Zebra.
747     During the updating procedure, <literal>zebraidx</literal> will temporarily
748     write changes to the involved files in a set of "shadow
749     files", without modifying the files that are accessed by the
750     active server processes. If the update procedure is interrupted by a
751     system crash or a signal, you simply repeat the procedure - the
752     register files have not been changed or damaged, and the partially
753     written shadow files are automatically deleted before the new updating
754     procedure commences.
755    </para>
756    
757    <para>
758     At the end of the updating procedure (or in a separate operation, if
759     you so desire), the system enters a "commit mode". First,
760     any active server processes are forced to access those blocks that
761     have been changed from the shadow files rather than from the main
762     register files; the unmodified blocks are still accessed at their
763     normal location (the shadow files are not a complete copy of the
764     register files - they only contain those parts that have actually been
765     modified). If the commit process is interrupted at any point during the
766     commit process, the server processes will continue to access the
767     shadow files until you can repeat the commit procedure and complete
768     the writing of data to the main register files. You can perform
769     multiple update operations to the registers before you commit the
770     changes to the system files, or you can execute the commit operation
771     at the end of each update operation. When the commit phase has
772     completed successfully, any running server processes are instructed to
773     switch their operations to the new, operational register, and the
774     temporary shadow files are deleted.
775    </para>
776    
777   </sect2>
778   
779   <sect2>
780    <title>How to Use Shadow Register Files</title>
781    
782    <para>
783     The first step is to allocate space on your system for the shadow
784     files.
785     You do this by adding a <literal>shadow</literal> entry to the
786     <literal>zebra.cfg</literal> file.
787     The syntax of the <literal>shadow</literal> entry is exactly the
788     same as for the <literal>register</literal> entry
789     (see <xref linkend="register-location"/>).
790      The location of the shadow area should be
791      <emphasis>different</emphasis> from the location of the main register
792      area (if you have specified one - remember that if you provide no
793      <literal>register</literal> setting, the default register area is the
794      working directory of the server and indexing processes).
795    </para>
796    
797    <para>
798     The following excerpt from a <literal>zebra.cfg</literal> file shows
799     one example of a setup that configures both the main register
800     location and the shadow file area.
801     Note that two directories or partitions have been set aside
802     for the shadow file area. You can specify any number of directories
803     for each of the file areas, but remember that there should be no
804     overlaps between the directories used for the main registers and the
805     shadow files, respectively.
806    </para>
807    <para>
808     
809     <screen>
810      register: /d1:500M
811      
812      shadow: /scratch1:100M /scratch2:200M
813     </screen>
814     
815    </para>
816    
817    <para>
818     When shadow files are enabled, an extra command is available at the
819     <literal>zebraidx</literal> command line.
820     In order to make changes to the system take effect for the
821     users, you'll have to submit a "commit" command after a
822     (sequence of) update operation(s).
823    </para>
824    
825    <para>
826     
827     <screen>
828      $ zebraidx update /d1/records 
829      $ zebraidx commit
830     </screen>
831     
832    </para>
833    
834    <para>
835     Or you can execute multiple updates before committing the changes:
836    </para>
837    
838    <para>
839     
840     <screen>
841      $ zebraidx -g books update /d1/records  /d2/more-records
842      $ zebraidx -g fun update /d3/fun-records
843      $ zebraidx commit
844     </screen>
845     
846    </para>
847    
848    <para>
849     If one of the update operations above had been interrupted, the commit
850     operation on the last line would fail: <literal>zebraidx</literal>
851     will not let you commit changes that would destroy the running register.
852     You'll have to rerun all of the update operations since your last
853     commit operation, before you can commit the new changes.
854    </para>
855    
856    <para>
857     Similarly, if the commit operation fails, <literal>zebraidx</literal>
858     will not let you start a new update operation before you have
859     successfully repeated the commit operation.
860     The server processes will keep accessing the shadow files rather
861     than the (possibly damaged) blocks of the main register files
862     until the commit operation has successfully completed.
863    </para>
864    
865    <para>
866     You should be aware that update operations may take slightly longer
867     when the shadow register system is enabled, since more file access
868     operations are involved. Further, while the disk space required for
869     the shadow register data is modest for a small update operation, you
870     may prefer to disable the system if you are adding a very large number
871     of records to an already very large database (we use the terms
872     <emphasis>large</emphasis> and <emphasis>modest</emphasis>
873     very loosely here, since every application will have a
874     different perception of size).
875     To update the system without the use of the the shadow files,
876     simply run <literal>zebraidx</literal> with the <literal>-n</literal>
877     option (note that you do not have to execute the
878     <emphasis>commit</emphasis> command of <literal>zebraidx</literal>
879     when you temporarily disable the use of the shadow registers in
880     this fashion.
881     Note also that, just as when the shadow registers are not enabled,
882     server processes will be barred from accessing the main register
883     while the update procedure takes place.
884    </para>
885    
886   </sect2>
887   
888  </sect1>
889  
890 </chapter>
891  <!-- Keep this comment at the end of the file
892  Local variables:
893  mode: sgml
894  sgml-omittag:t
895  sgml-shorttag:t
896  sgml-minimize-attributes:nil
897  sgml-always-quote-attributes:t
898  sgml-indent-step:1
899  sgml-indent-data:t
900  sgml-parent-document: "zebra.xml"
901  sgml-local-catalogs: nil
902  sgml-namecase-general:t
903  End:
904  -->