Removed reference to software split in 1.0 to avoid confusion
[idzebra-moved-to-github.git] / CHANGELOG
1
2 --- 1.3.0 2002/08/05
3
4 Zebra license changed to GNU GPL.
5
6 XPATH-like queries used when RPN string attributes are used, eg.
7    @attr 1=/portal/title sometitle
8    @attr 1=/portal/title[@xml:lang=da] danishtitle
9    @attr 1=/portal/title/@xml:lang da
10    @attr 1=//title sometitle
11
12 Zebra uses UTF-8 internally:
13 1) New setting "encoding" for zebra.cfg that specifies encoding for
14 OCTET terms in queries and record encoding for most transfer syntaxes
15 (except those that use International Strings, such as GRS-1).
16 2) The encoding of International strings is UTF-8 by default. It
17 may be changed by character set negotiation. If character set
18 negotiation is in effect and if records are selected for conversion
19 these'll be converted to the selected character set - thus overriding
20 the encoding setting in zebra.cfg.
21
22 3) New directive "encoding" in .abs-files. This specifies the
23 external for files indexed by zebra. However, if records themselves
24 have an XML header that specifies and encoding that'll be used
25 instead.
26
27 XML filter (-t grs.xml).
28
29 Multiple registers. New setting in resource 'root' that holds base
30 directory for register(s). A group a databases may be put in separate
31 register in directory root/reg by using db name 'reg/db1' ... 'reg/dbN'.
32
33 --- 1.1.1 2002/03/21
34
35 Fixes for Digital Unix
36
37 Implemented hits per term using USR:SearchResult-1.
38
39 New Zebra API. Locking system re-implemented.
40
41 --- 1.1.stable 2002/02/20
42
43 Rank weight can be controlled with attribute type 9. Default
44 value is 34. Recommended values between 1-36.
45
46 --- 1.1 2001/10/25
47
48 Updated for YAZ version 1.8.
49
50 Added support for termsets - a result set of terms matching
51 a given query. For @attr 8=<set> creates termset named <set>.
52
53 Added support for raw retrieval. Element Set Name R forces the
54 text filter which returns the record in its original form.
55
56 Added numerical sort - triggered by structure=numeric (4=109).
57
58 Remote record import using Z39.50 Extended Services and Segments.
59
60 Fixed bug where updating a database with user-defined attributes
61 could corrupt the register (bad storeKeys).
62
63 Multi-threaded version.
64
65 Fixed bug regarding proximity.
66
67 Documentation updates.
68
69 Fixed bug in record retrieval module that occured on 64-bit OSF 
70 architectures.
71
72 --- 1.0.1 2000/2/10
73
74 Fixed bug in makefile for WIN32.
75
76 Fixed bug in configure script - used bash-specific features.
77
78 --- 1.0 1999/12/10
79
80 Added support for multiple records in one file for filter grs.sgml.
81
82 Changed record index structure. New layout is incompatible with
83 previous releases. Added setting "recordcompression" to control
84 compression of records. Possible values are "none" (no
85 compression) and bzip2 (compression using libbz2).
86
87 Added XML transfer syntax support for retrieval of structured records.
88 Schema in CompSpec is recognised in retrieval of structured records.
89
90 Changed Tcl record filter so that it attemps to read  <filt>.tflt. If
91 that fails, the filter reads the file <filt>.flt (regx style filter).
92
93 Implemented new Tcl record filter -  use grs.tcl.<filter> to enable it.
94 Zebra's configure script automatically attempts to locate Tcl. For
95 manual Tcl configuration use option --with-tclconfig=<path> to specify
96 where Tcl's library files are located.
97
98 Implemented "compression" of Dictionary and ISAM system. Dictionary
99 format HAS changed.
100
101 Added "tagsysno" directive to zebra.cfg to control under which tag the
102 system ID is placed. Use tagsysno: 0 to disable Zebra's system number
103 entirely.
104
105 Added "tagrank" as above.
106
107 Changed file naming scheme for register files from <name>.mf.<no> to
108 <name>-<no>.mf.
109
110 Implemented "position"-flag for register type (as defined in
111 default.idx). When set to zero no position (or seqence number) is
112 saved in register for each word occurrence, thus saving some register
113 space.
114
115 Implemented database mapping. Using mapdb one can specify a database
116 to be mapped to one or more physical databases. Usage:
117 mapdb <fromdb> <todb> ..
118
119 Added SOIF-filter. Thanks to Peter Valkenburg.
120
121 For the regx-filter "end element -record" may trigger a mark-of-record
122 if outer level is reached.
123
124 Tag sets may be typed in the reference to it. From the .abs-file the
125 "tagset" directive takes a third optional integer type for the tag set
126 referenced. From a .tag-file the "include" directive takes a third
127 optional type as well. The old "type" directive in the tag set itself
128 is still recognized but acts as the default type for the tag set.
129  
130 Zebra supports the specification of arbitrary attributes sets, schemas
131 and tag sets, because of the change in YAZ' OID management system.
132
133 Fixed bug in Sort that caused it NOT to use character mapping as it
134 should.
135
136 Zebra now uses GNU configure to generate Makefile(s).
137
138 Added un-optimised support for left and left/right truncation attributes.
139
140 Added support for relational operators on text when using RPN queries.
141
142 Added support for sort specifications in RPN queries. Type 7 specifies
143 'sort' where value 1=ascending, value 2=descending. The use attribute
144 specifies the field criteria as usual.  The term specifies priority
145 where 0=first, 1=second, ...
146
147 Changed the way use attributes are specified in the recordId
148 specification.
149
150 Maximum number of databases in one Zebra register increased.
151
152 New setting, databasePath, which specifies that first directory during
153 update traversal is the database name (instead of a fixed one).
154
155 New setting, explainDatabase, which specifies that databases are
156 EXPLAIN aware.
157
158 Modified Zebra so that it works with ASN.1 compiled code for YAZ.
159
160 Implemented EXPLAIN database maintenance. Zebra automatically
161 generate - and update CategoryList, TargetInfo, DatabaseInfo,
162 AttributeSetInfo and AttributeDetails records at this stage. The
163 records may be transferred as GRS-1, SUTRS or Explain.
164
165 Fixed register spec so that colon isn't treated as size separator
166 unless followed by [0-9+-] in order to allow DOS drive specifications.
167
168 Fixed two bugs in ISAMC system.
169
170 Changed the way Zebra keeps its maintenance information about attribute
171 sets, available attributes, etc.. Records in "SGML" notation using an
172 EXPLAIN schema is now used when appropriate.
173
174 Bug fix: Index didn't handle update/insert/delete of the same record
175 (i.e. same recordId) in one run (one invocation of zebraidx). Only the
176 first occurence of a record is considered.
177
178 Most searches now return correct number of hits.
179
180 New modular ranking system. Interested programmers are encouraged to
181 inspect rank1.c and improve the algorithm.
182
183 Bug fix: Lock files weren't removed as they should on NT.
184
185 Implemented Z39.50 Sort. Zebra's sort handler uses use attributes to
186 specify a "sort register". Refer to the gils sample records which refer
187 to index type "s" which is specified as "sort" in the default.idx file.
188 Each sort criteria can either be Ascending or Descending and at most
189 three sort elements can be specified.  
190
191 Bug fix: Character mapping didn't work for text files.
192
193 --- 1.0b1 1998/1/29
194
195 Simple ranked searches now return correct number of hits.
196
197 The test option (-s) only makes a read-lock on the index as well
198 as using read-only operations anywhere.
199
200 Moved towards generic character mapping. Configuration file default.idx
201 specifies character map files for register types w, p, u, etc.
202
203 Implemented "begin variant" for the sgml.regx - filter.
204
205 Fixed a few memory leaks.
206
207 Added support for C++, headers uses extern "C" for public definitions.
208
209 Bug fix: The show records facility (-s) only displayed information for
210 the first record in a file (and not for every record in the file).
211
212 Added option "-f <n>" to limit the logging of record operations. After
213 <n> records has been processed no logging is performed (unless errors
214 occur).
215
216 Bug fix: the compressed ISAM system didn't handle update operations
217 correctly.
218
219 Added setting, "maxResultSetSize", to hold the number of records to 
220 save in a result set.
221
222 Bug fix: Complete phrase did't work for search operations.
223
224 Bug fix: temporary result sets weren't deleted.
225
226 Reduced disk space for saved keys (storeKeys = 1).
227
228 Added optional, physical ANY (key replication)
229
230 Implemented proximity operator in search.
231
232 Bug fix: the path name buffers used by file match traversal routines
233 have been extended to support long file names.
234
235 New C(ompressed) ISAM system. To enable it, specify "isam: c" in the
236 configuration file. The resulting register without "storeKeys" is about
237 half the size, and the memory used by zebraidx during phase 2 (merge) is
238 reduced to a minimum.
239
240 Reworked the way Regexp-2 queries with error tolerance are handled and
241 specified. The documentation has been updated accordingly.
242
243 Bug fix: Zebrasrv didn't search correctly when queries contained masking
244 characters. This bug was introduced in 1.0a8.
245
246 Zebrasrv now tag records with the proper database name.
247
248 New settings, memMax and keyTmpDir.
249
250 Changed name of setting lockDir (previously called lockPath) and
251 setTmpDir (previously called tempSetPath).
252
253 Generalized and changed record type specifications. In short, there are:
254        text                plain SUTRS
255        grs.sgml            structured, "SGML-like" syntax
256        grs.regx.<filter>   structured, Regular expression filter
257        grs.marc.<abs>      Reads *MARC records in the ISO2709 format. <abs>
258                            is the name of an abstract syntax file.                           
259 Bug fix: Result sets weren't sorted in operations involving boolean
260 operations with "ranked" operands.
261
262 --- 1.0a8 1996/6/6
263
264 Added national character-handling subsystem.
265
266 Various fixes.
267
268 Small modifications to input filters and profiles.
269
270 Added support for SOIF syntax (with private OID).
271
272 --- 1.0a7 1996/5/16
273
274 Fixed buffer-size problem in indexing.
275
276 Added compression to temporary files for updating.
277
278 Added phrase registers.
279
280 Added dynamic mapping of search attribute to multiple termlists (ANY).
281
282 Scan support in multiple databases/registers.
283
284 Configuration settings are case-insensitive and single dash (-)
285 characters are ignored in comparisons.
286
287 The index processing ignores empty files - warning given.
288
289 New option to zebraidx (-V) displays version information.
290
291 --- 1.0a6 1996/2/24
292
293 Fixed problem in file-update system.
294
295 Fixed problem in shadow system; register was sometimes corrupted after
296 a commit operation.
297
298 --- 1.0a5 1996/2/10
299
300 Fixed problems in the ISAM subsystem. Caused difficulties when updating
301 existing registers.
302
303 Fixed small problem in SUTRS-filter. A newline was sometimes inserted before
304 the rank and record number.
305
306 Fixed bug in the isam subsystem - caused a malfunction when accessing
307 words which occurred more than 10000 times.
308
309 Distribution should now include YAZ (Z39.50 protocol stack) to simplify
310 installation.
311
312 Server can now run under inetd. Use option -i, and -w <directory> to
313 set working directory to desired location.
314
315 New zebraidx command: clean - removes temporary shadow files.
316
317 Fixed bug in ISAM system. Occurred rarely during register updates.
318
319 Logging during index merge phase is improved. The remaining running
320 time is estimated.
321
322 Temporary files generated by zebraidx are removed after each run.
323
324 Bug fix: Dictionary didn't handle 8-bit characters correctly; was obvious
325 when doing scan operations in dictionaries with European characters.
326
327 --- 1.0a4 1996/01/11
328
329 A whole slew of updates, to make the first publicized release. Get the doc
330 and check it out.
331
332 --- 1.0a3 1995/12/06
333
334 Memory-problems in ISAM fixed. More blocktypes added to the default setup
335 to increase performance on larger databases.
336
337 Various minor changes in data management system.
338
339 --- 1.0a2 1995/12/05
340
341 A couple of portability-problems resolved.
342
343 Changed some malloc() to xmalloc().
344
345 --- 1.0a1 1995/11/28
346
347 First release.