Work on xpath-like queries
[idzebra-moved-to-github.git] / CHANGELOG
1
2 --- 1.3.0 2002/MM/DD
3
4 XPATH-like queries used when PQF string attributes are used, eg.
5    @attr 1=/portal/title sometitle
6    @attr 1=/portal/title[@xml:lang=da] danishtitle
7    @attr 1=/portal/title/@xml:lang da
8    @attr 1=//title sometitle
9
10 Zebra uses UTF-8 internally:
11 1) New setting "encoding" for zebra.cfg that specifies encoding for
12 OCTET terms in queries and record encoding for most transfer syntaxes
13 (except those that use International Strings, such as GRS-1).
14 2) The encoding of International strings is UTF-8 by default. It
15 may be changed by character set negotiation. If character set
16 negotiation is in effect and if records are selected for conversion
17 these'll be converted to the selected character set - thus overriding
18 the encoding setting in zebra.cfg.
19
20 3) New directive "encoding" in .abs-files. This specifies the
21 external for files indexed by zebra. However, if records themselves
22 have an XML header that specifies and encoding that'll be used
23 instead.
24
25 XML filter (-t grs.xml).
26
27 Multiple registers. New setting in resource 'root' that holds base
28 directory for register(s). A group a databases may be put in separate
29 register in directory root/reg by using db name 'reg/db1' ... 'reg/dbN'.
30
31 --- 1.1.1 2002/03/21
32
33 Fixes for Digital Unix
34
35 Implemented hits per term using USR:SearchResult-1.
36
37 New Zebra API. Locking system re-implemented.
38
39 --- 1.1.stable 2002/02/20
40
41 Rank weight can be controlled with attribute type 9. Default
42 value is 34. Recommended values between 1-36.
43
44 --- 1.1 2001/10/25
45
46 Updated for YAZ version 1.8.
47
48 Added support for termsets - a result set of terms matching
49 a given query. For @attr 8=<set> creates termset named <set>.
50
51 Added support for raw retrieval. Element Set Name R forces the
52 text filter which returns the record in its original form.
53
54 Added numerical sort - triggered by structure=numeric (4=109).
55
56 Remote record import using Z39.50 Extended Services and Segments.
57
58 Fixed bug where updating a database with user-defined attributes
59 could corrupt the register (bad storeKeys).
60
61 Multi-threaded version.
62
63 Fixed bug regarding proximity.
64
65 Documentation updates.
66
67 Fixed bug in record retrieval module that occured on 64-bit OSF 
68 architectures.
69
70 --- 1.0.1 2000/2/10
71
72 Fixed bug in makefile for WIN32.
73
74 Fixed bug in configure script - used bash-specific features.
75
76 --- 1.0 1999/12/10
77
78 The software was split in two products Zebra (for testing,
79 non-profit use) and the commercial product Z'mbol. Zebra no
80 longer supports INDEX UPDATES, i.e. zebraidx should be invoked only
81 once for each register. Refer to LICENSE.zebra for more info.
82
83 Added support for multiple records in one file for filter grs.sgml.
84
85 Changed record index structure. New layout is incompatible with
86 previous releases. Added setting "recordcompression" to control
87 compression of records. Possible values are "none" (no
88 compression) and bzip2 (compression using libbz2).
89
90 Added XML transfer syntax support for retrieval of structured records.
91 Schema in CompSpec is recognised in retrieval of structured records.
92
93 Changed Tcl record filter so that it attemps to read  <filt>.tflt. If
94 that fails, the filter reads the file <filt>.flt (regx style filter).
95
96 Implemented new Tcl record filter -  use grs.tcl.<filter> to enable it.
97 Zebra's configure script automatically attempts to locate Tcl. For
98 manual Tcl configuration use option --with-tclconfig=<path> to specify
99 where Tcl's library files are located.
100
101 Implemented "compression" of Dictionary and ISAM system. Dictionary
102 format HAS changed.
103
104 Added "tagsysno" directive to zebra.cfg to control under which tag the
105 system ID is placed. Use tagsysno: 0 to disable Zebra's system number
106 entirely.
107
108 Added "tagrank" as above.
109
110 Changed file naming scheme for register files from <name>.mf.<no> to
111 <name>-<no>.mf.
112
113 Implemented "position"-flag for register type (as defined in
114 default.idx). When set to zero no position (or seqence number) is
115 saved in register for each word occurrence, thus saving some register
116 space.
117
118 Implemented database mapping. Using mapdb one can specify a database
119 to be mapped to one or more physical databases. Usage:
120 mapdb <fromdb> <todb> ..
121
122 Added SOIF-filter. Thanks to Peter Valkenburg.
123
124 For the regx-filter "end element -record" may trigger a mark-of-record
125 if outer level is reached.
126
127 Tag sets may be typed in the reference to it. From the .abs-file the
128 "tagset" directive takes a third optional integer type for the tag set
129 referenced. From a .tag-file the "include" directive takes a third
130 optional type as well. The old "type" directive in the tag set itself
131 is still recognized but acts as the default type for the tag set.
132  
133 Zebra supports the specification of arbitrary attributes sets, schemas
134 and tag sets, because of the change in YAZ' OID management system.
135
136 Fixed bug in Sort that caused it NOT to use character mapping as it
137 should.
138
139 Zebra now uses GNU configure to generate Makefile(s).
140
141 Added un-optimised support for left and left/right truncation attributes.
142
143 Added support for relational operators on text when using RPN queries.
144
145 Added support for sort specifications in RPN queries. Type 7 specifies
146 'sort' where value 1=ascending, value 2=descending. The use attribute
147 specifies the field criteria as usual.  The term specifies priority
148 where 0=first, 1=second, ...
149
150 Changed the way use attributes are specified in the recordId
151 specification.
152
153 Maximum number of databases in one Zebra register increased.
154
155 New setting, databasePath, which specifies that first directory during
156 update traversal is the database name (instead of a fixed one).
157
158 New setting, explainDatabase, which specifies that databases are
159 EXPLAIN aware.
160
161 Modified Zebra so that it works with ASN.1 compiled code for YAZ.
162
163 Implemented EXPLAIN database maintenance. Zebra automatically
164 generate - and update CategoryList, TargetInfo, DatabaseInfo,
165 AttributeSetInfo and AttributeDetails records at this stage. The
166 records may be transferred as GRS-1, SUTRS or Explain.
167
168 Fixed register spec so that colon isn't treated as size separator
169 unless followed by [0-9+-] in order to allow DOS drive specifications.
170
171 Fixed two bugs in ISAMC system.
172
173 Changed the way Zebra keeps its maintenance information about attribute
174 sets, available attributes, etc.. Records in "SGML" notation using an
175 EXPLAIN schema is now used when appropriate.
176
177 Bug fix: Index didn't handle update/insert/delete of the same record
178 (i.e. same recordId) in one run (one invocation of zebraidx). Only the
179 first occurence of a record is considered.
180
181 Most searches now return correct number of hits.
182
183 New modular ranking system. Interested programmers are encouraged to
184 inspect rank1.c and improve the algorithm.
185
186 Bug fix: Lock files weren't removed as they should on NT.
187
188 Implemented Z39.50 Sort. Zebra's sort handler uses use attributes to
189 specify a "sort register". Refer to the gils sample records which refer
190 to index type "s" which is specified as "sort" in the default.idx file.
191 Each sort criteria can either be Ascending or Descending and at most
192 three sort elements can be specified.  
193
194 Bug fix: Character mapping didn't work for text files.
195
196 --- 1.0b1 1998/1/29
197
198 Simple ranked searches now return correct number of hits.
199
200 The test option (-s) only makes a read-lock on the index as well
201 as using read-only operations anywhere.
202
203 Moved towards generic character mapping. Configuration file default.idx
204 specifies character map files for register types w, p, u, etc.
205
206 Implemented "begin variant" for the sgml.regx - filter.
207
208 Fixed a few memory leaks.
209
210 Added support for C++, headers uses extern "C" for public definitions.
211
212 Bug fix: The show records facility (-s) only displayed information for
213 the first record in a file (and not for every record in the file).
214
215 Added option "-f <n>" to limit the logging of record operations. After
216 <n> records has been processed no logging is performed (unless errors
217 occur).
218
219 Bug fix: the compressed ISAM system didn't handle update operations
220 correctly.
221
222 Added setting, "maxResultSetSize", to hold the number of records to 
223 save in a result set.
224
225 Bug fix: Complete phrase did't work for search operations.
226
227 Bug fix: temporary result sets weren't deleted.
228
229 Reduced disk space for saved keys (storeKeys = 1).
230
231 Added optional, physical ANY (key replication)
232
233 Implemented proximity operator in search.
234
235 Bug fix: the path name buffers used by file match traversal routines
236 have been extended to support long file names.
237
238 New C(ompressed) ISAM system. To enable it, specify "isam: c" in the
239 configuration file. The resulting register without "storeKeys" is about
240 half the size, and the memory used by zebraidx during phase 2 (merge) is
241 reduced to a minimum.
242
243 Reworked the way Regexp-2 queries with error tolerance are handled and
244 specified. The documentation has been updated accordingly.
245
246 Bug fix: Zebrasrv didn't search correctly when queries contained masking
247 characters. This bug was introduced in 1.0a8.
248
249 Zebrasrv now tag records with the proper database name.
250
251 New settings, memMax and keyTmpDir.
252
253 Changed name of setting lockDir (previously called lockPath) and
254 setTmpDir (previously called tempSetPath).
255
256 Generalized and changed record type specifications. In short, there are:
257        text                plain SUTRS
258        grs.sgml            structured, "SGML-like" syntax
259        grs.regx.<filter>   structured, Regular expression filter
260        grs.marc.<abs>      Reads *MARC records in the ISO2709 format. <abs>
261                            is the name of an abstract syntax file.                           
262 Bug fix: Result sets weren't sorted in operations involving boolean
263 operations with "ranked" operands.
264
265 --- 1.0a8 1996/6/6
266
267 Added national character-handling subsystem.
268
269 Various fixes.
270
271 Small modifications to input filters and profiles.
272
273 Added support for SOIF syntax (with private OID).
274
275 --- 1.0a7 1996/5/16
276
277 Fixed buffer-size problem in indexing.
278
279 Added compression to temporary files for updating.
280
281 Added phrase registers.
282
283 Added dynamic mapping of search attribute to multiple termlists (ANY).
284
285 Scan support in multiple databases/registers.
286
287 Configuration settings are case-insensitive and single dash (-)
288 characters are ignored in comparisons.
289
290 The index processing ignores empty files - warning given.
291
292 New option to zebraidx (-V) displays version information.
293
294 --- 1.0a6 1996/2/24
295
296 Fixed problem in file-update system.
297
298 Fixed problem in shadow system; register was sometimes corrupted after
299 a commit operation.
300
301 --- 1.0a5 1996/2/10
302
303 Fixed problems in the ISAM subsystem. Caused difficulties when updating
304 existing registers.
305
306 Fixed small problem in SUTRS-filter. A newline was sometimes inserted before
307 the rank and record number.
308
309 Fixed bug in the isam subsystem - caused a malfunction when accessing
310 words which occurred more than 10000 times.
311
312 Distribution should now include YAZ (Z39.50 protocol stack) to simplify
313 installation.
314
315 Server can now run under inetd. Use option -i, and -w <directory> to
316 set working directory to desired location.
317
318 New zebraidx command: clean - removes temporary shadow files.
319
320 Fixed bug in ISAM system. Occurred rarely during register updates.
321
322 Logging during index merge phase is improved. The remaining running
323 time is estimated.
324
325 Temporary files generated by zebraidx are removed after each run.
326
327 Bug fix: Dictionary didn't handle 8-bit characters correctly; was obvious
328 when doing scan operations in dictionaries with European characters.
329
330 --- 1.0a4 1996/01/11
331
332 A whole slew of updates, to make the first publicized release. Get the doc
333 and check it out.
334
335 --- 1.0a3 1995/12/06
336
337 Memory-problems in ISAM fixed. More blocktypes added to the default setup
338 to increase performance on larger databases.
339
340 Various minor changes in data management system.
341
342 --- 1.0a2 1995/12/05
343
344 A couple of portability-problems resolved.
345
346 Changed some malloc() to xmalloc().
347
348 --- 1.0a1 1995/11/28
349
350 First release.