Fix spelling of XPath.
[idzebra-moved-to-github.git] / CHANGELOG
1
2 --- 1.3.1 2002/08/20
3
4 New .abs-directive "xpath" that takes one argument: "enable"
5 or "disable" to enable and disable XPath -indexing. If no "xpath"
6 direcive is found in .abs-file , XPath-indexing is disabled to ensure
7 backwards compatibility. For missing .abs-files XPath-indexing is
8 enabled so that such records are searchable.
9
10 Zebra warns about missing .abs-file only once (for each type).
11
12 Fixed a bug in file update where already-inserted files could
13 be treated as "new".
14
15 --- 1.3.0 2002/08/05
16
17 Zebra license changed to GNU GPL.
18
19 XPath-like queries used when RPN string attributes are used, eg.
20    @attr 1=/portal/title sometitle
21    @attr 1=/portal/title[@xml:lang=da] danishtitle
22    @attr 1=/portal/title/@xml:lang da
23    @attr 1=//title sometitle
24
25 Zebra uses UTF-8 internally:
26 1) New setting "encoding" for zebra.cfg that specifies encoding for
27 OCTET terms in queries and record encoding for most transfer syntaxes
28 (except those that use International Strings, such as GRS-1).
29 2) The encoding of International strings is UTF-8 by default. It
30 may be changed by character set negotiation. If character set
31 negotiation is in effect and if records are selected for conversion
32 these'll be converted to the selected character set - thus overriding
33 the encoding setting in zebra.cfg.
34 3) New directive "encoding" in .abs-files. This specifies the external
35 character encoding for files indexed by zebra. However, if records
36 themselves have an XML header that specifies and encoding that'll be used
37 instead.
38
39 XML filter (-t grs.xml).
40
41 Multiple registers. New setting in resource 'root' that holds base
42 directory for register(s). A group a databases may be put in separate
43 register in directory root/reg by using db name 'reg/db1' ... 'reg/dbN'.
44
45 --- 1.1.1 2002/03/21
46
47 Fixes for Digital Unix
48
49 Implemented hits per term using USR:SearchResult-1.
50
51 New Zebra API. Locking system re-implemented.
52
53 --- 1.1.stable 2002/02/20
54
55 Rank weight can be controlled with attribute type 9. Default
56 value is 34. Recommended values between 1-36.
57
58 --- 1.1 2001/10/25
59
60 Updated for YAZ version 1.8.
61
62 Added support for termsets - a result set of terms matching
63 a given query. For @attr 8=<set> creates termset named <set>.
64
65 Added support for raw retrieval. Element Set Name R forces the
66 text filter which returns the record in its original form.
67
68 Added numerical sort - triggered by structure=numeric (4=109).
69
70 Remote record import using Z39.50 Extended Services and Segments.
71
72 Fixed bug where updating a database with user-defined attributes
73 could corrupt the register (bad storeKeys).
74
75 Multi-threaded version.
76
77 Fixed bug regarding proximity.
78
79 Documentation updates.
80
81 Fixed bug in record retrieval module that occured on 64-bit OSF 
82 architectures.
83
84 --- 1.0.1 2000/2/10
85
86 Fixed bug in makefile for WIN32.
87
88 Fixed bug in configure script - used bash-specific features.
89
90 --- 1.0 1999/12/10
91
92 Added support for multiple records in one file for filter grs.sgml.
93
94 Changed record index structure. New layout is incompatible with
95 previous releases. Added setting "recordcompression" to control
96 compression of records. Possible values are "none" (no
97 compression) and bzip2 (compression using libbz2).
98
99 Added XML transfer syntax support for retrieval of structured records.
100 Schema in CompSpec is recognised in retrieval of structured records.
101
102 Changed Tcl record filter so that it attemps to read  <filt>.tflt. If
103 that fails, the filter reads the file <filt>.flt (regx style filter).
104
105 Implemented new Tcl record filter -  use grs.tcl.<filter> to enable it.
106 Zebra's configure script automatically attempts to locate Tcl. For
107 manual Tcl configuration use option --with-tclconfig=<path> to specify
108 where Tcl's library files are located.
109
110 Implemented "compression" of Dictionary and ISAM system. Dictionary
111 format HAS changed.
112
113 Added "tagsysno" directive to zebra.cfg to control under which tag the
114 system ID is placed. Use tagsysno: 0 to disable Zebra's system number
115 entirely.
116
117 Added "tagrank" as above.
118
119 Changed file naming scheme for register files from <name>.mf.<no> to
120 <name>-<no>.mf.
121
122 Implemented "position"-flag for register type (as defined in
123 default.idx). When set to zero no position (or seqence number) is
124 saved in register for each word occurrence, thus saving some register
125 space.
126
127 Implemented database mapping. Using mapdb one can specify a database
128 to be mapped to one or more physical databases. Usage:
129 mapdb <fromdb> <todb> ..
130
131 Added SOIF-filter. Thanks to Peter Valkenburg.
132
133 For the regx-filter "end element -record" may trigger a mark-of-record
134 if outer level is reached.
135
136 Tag sets may be typed in the reference to it. From the .abs-file the
137 "tagset" directive takes a third optional integer type for the tag set
138 referenced. From a .tag-file the "include" directive takes a third
139 optional type as well. The old "type" directive in the tag set itself
140 is still recognized but acts as the default type for the tag set.
141  
142 Zebra supports the specification of arbitrary attributes sets, schemas
143 and tag sets, because of the change in YAZ' OID management system.
144
145 Fixed bug in Sort that caused it NOT to use character mapping as it
146 should.
147
148 Zebra now uses GNU configure to generate Makefile(s).
149
150 Added un-optimised support for left and left/right truncation attributes.
151
152 Added support for relational operators on text when using RPN queries.
153
154 Added support for sort specifications in RPN queries. Type 7 specifies
155 'sort' where value 1=ascending, value 2=descending. The use attribute
156 specifies the field criteria as usual.  The term specifies priority
157 where 0=first, 1=second, ...
158
159 Changed the way use attributes are specified in the recordId
160 specification.
161
162 Maximum number of databases in one Zebra register increased.
163
164 New setting, databasePath, which specifies that first directory during
165 update traversal is the database name (instead of a fixed one).
166
167 New setting, explainDatabase, which specifies that databases are
168 EXPLAIN aware.
169
170 Modified Zebra so that it works with ASN.1 compiled code for YAZ.
171
172 Implemented EXPLAIN database maintenance. Zebra automatically
173 generate - and update CategoryList, TargetInfo, DatabaseInfo,
174 AttributeSetInfo and AttributeDetails records at this stage. The
175 records may be transferred as GRS-1, SUTRS or Explain.
176
177 Fixed register spec so that colon isn't treated as size separator
178 unless followed by [0-9+-] in order to allow DOS drive specifications.
179
180 Fixed two bugs in ISAMC system.
181
182 Changed the way Zebra keeps its maintenance information about attribute
183 sets, available attributes, etc.. Records in "SGML" notation using an
184 EXPLAIN schema is now used when appropriate.
185
186 Bug fix: Index didn't handle update/insert/delete of the same record
187 (i.e. same recordId) in one run (one invocation of zebraidx). Only the
188 first occurence of a record is considered.
189
190 Most searches now return correct number of hits.
191
192 New modular ranking system. Interested programmers are encouraged to
193 inspect rank1.c and improve the algorithm.
194
195 Bug fix: Lock files weren't removed as they should on NT.
196
197 Implemented Z39.50 Sort. Zebra's sort handler uses use attributes to
198 specify a "sort register". Refer to the gils sample records which refer
199 to index type "s" which is specified as "sort" in the default.idx file.
200 Each sort criteria can either be Ascending or Descending and at most
201 three sort elements can be specified.  
202
203 Bug fix: Character mapping didn't work for text files.
204
205 --- 1.0b1 1998/1/29
206
207 Simple ranked searches now return correct number of hits.
208
209 The test option (-s) only makes a read-lock on the index as well
210 as using read-only operations anywhere.
211
212 Moved towards generic character mapping. Configuration file default.idx
213 specifies character map files for register types w, p, u, etc.
214
215 Implemented "begin variant" for the sgml.regx - filter.
216
217 Fixed a few memory leaks.
218
219 Added support for C++, headers uses extern "C" for public definitions.
220
221 Bug fix: The show records facility (-s) only displayed information for
222 the first record in a file (and not for every record in the file).
223
224 Added option "-f <n>" to limit the logging of record operations. After
225 <n> records has been processed no logging is performed (unless errors
226 occur).
227
228 Bug fix: the compressed ISAM system didn't handle update operations
229 correctly.
230
231 Added setting, "maxResultSetSize", to hold the number of records to 
232 save in a result set.
233
234 Bug fix: Complete phrase did't work for search operations.
235
236 Bug fix: temporary result sets weren't deleted.
237
238 Reduced disk space for saved keys (storeKeys = 1).
239
240 Added optional, physical ANY (key replication)
241
242 Implemented proximity operator in search.
243
244 Bug fix: the path name buffers used by file match traversal routines
245 have been extended to support long file names.
246
247 New C(ompressed) ISAM system. To enable it, specify "isam: c" in the
248 configuration file. The resulting register without "storeKeys" is about
249 half the size, and the memory used by zebraidx during phase 2 (merge) is
250 reduced to a minimum.
251
252 Reworked the way Regexp-2 queries with error tolerance are handled and
253 specified. The documentation has been updated accordingly.
254
255 Bug fix: Zebrasrv didn't search correctly when queries contained masking
256 characters. This bug was introduced in 1.0a8.
257
258 Zebrasrv now tag records with the proper database name.
259
260 New settings, memMax and keyTmpDir.
261
262 Changed name of setting lockDir (previously called lockPath) and
263 setTmpDir (previously called tempSetPath).
264
265 Generalized and changed record type specifications. In short, there are:
266        text                plain SUTRS
267        grs.sgml            structured, "SGML-like" syntax
268        grs.regx.<filter>   structured, Regular expression filter
269        grs.marc.<abs>      Reads *MARC records in the ISO2709 format. <abs>
270                            is the name of an abstract syntax file.                           
271 Bug fix: Result sets weren't sorted in operations involving boolean
272 operations with "ranked" operands.
273
274 --- 1.0a8 1996/6/6
275
276 Added national character-handling subsystem.
277
278 Various fixes.
279
280 Small modifications to input filters and profiles.
281
282 Added support for SOIF syntax (with private OID).
283
284 --- 1.0a7 1996/5/16
285
286 Fixed buffer-size problem in indexing.
287
288 Added compression to temporary files for updating.
289
290 Added phrase registers.
291
292 Added dynamic mapping of search attribute to multiple termlists (ANY).
293
294 Scan support in multiple databases/registers.
295
296 Configuration settings are case-insensitive and single dash (-)
297 characters are ignored in comparisons.
298
299 The index processing ignores empty files - warning given.
300
301 New option to zebraidx (-V) displays version information.
302
303 --- 1.0a6 1996/2/24
304
305 Fixed problem in file-update system.
306
307 Fixed problem in shadow system; register was sometimes corrupted after
308 a commit operation.
309
310 --- 1.0a5 1996/2/10
311
312 Fixed problems in the ISAM subsystem. Caused difficulties when updating
313 existing registers.
314
315 Fixed small problem in SUTRS-filter. A newline was sometimes inserted before
316 the rank and record number.
317
318 Fixed bug in the isam subsystem - caused a malfunction when accessing
319 words which occurred more than 10000 times.
320
321 Distribution should now include YAZ (Z39.50 protocol stack) to simplify
322 installation.
323
324 Server can now run under inetd. Use option -i, and -w <directory> to
325 set working directory to desired location.
326
327 New zebraidx command: clean - removes temporary shadow files.
328
329 Fixed bug in ISAM system. Occurred rarely during register updates.
330
331 Logging during index merge phase is improved. The remaining running
332 time is estimated.
333
334 Temporary files generated by zebraidx are removed after each run.
335
336 Bug fix: Dictionary didn't handle 8-bit characters correctly; was obvious
337 when doing scan operations in dictionaries with European characters.
338
339 --- 1.0a4 1996/01/11
340
341 A whole slew of updates, to make the first publicized release. Get the doc
342 and check it out.
343
344 --- 1.0a3 1995/12/06
345
346 Memory-problems in ISAM fixed. More blocktypes added to the default setup
347 to increase performance on larger databases.
348
349 Various minor changes in data management system.
350
351 --- 1.0a2 1995/12/05
352
353 A couple of portability-problems resolved.
354
355 Changed some malloc() to xmalloc().
356
357 --- 1.0a1 1995/11/28
358
359 First release.