Lines Matching defs:tokenizer

67     final Tokenizer tokenizer = new Tokenizer(filename, (new String(buf, 0, size)).toCharArray());
71 String token = tokenizer.getToken();
76 parsePackage(api, tokenizer);
78 throw new ApiParseException("expected package got " + token, tokenizer.getLine());
88 private static void parsePackage(ApiInfo api, Tokenizer tokenizer)
94 token = tokenizer.requireToken();
95 assertIdent(tokenizer, token);
97 pkg = new PackageInfo(name, tokenizer.pos());
98 token = tokenizer.requireToken();
100 throw new ApiParseException("expected '{' got " + token, tokenizer.getLine());
103 token = tokenizer.requireToken();
107 parseClass(api, pkg, tokenizer, token);
113 private static void parseClass(ApiInfo api, PackageInfo pkg, Tokenizer tokenizer, String token)
130 token = tokenizer.requireToken();
133 token = tokenizer.requireToken();
139 token = tokenizer.requireToken();
143 token = tokenizer.requireToken();
147 token = tokenizer.requireToken();
151 token = tokenizer.requireToken();
155 token = tokenizer.requireToken();
158 token = tokenizer.requireToken();
160 throw new ApiParseException("missing class or interface. got: " + token, tokenizer.getLine());
162 assertIdent(tokenizer, token);
164 token = tokenizer.requireToken();
166 cl = new ClassInfo(null/*classDoc*/, ""/*rawCommentText*/, tokenizer.pos(), pub, prot,
172 token = tokenizer.requireToken();
173 assertIdent(tokenizer, token);
175 token = tokenizer.requireToken();
184 token = tokenizer.requireToken();
196 throw new ApiParseException("expected {", tokenizer.getLine());
198 token = tokenizer.requireToken();
203 token = tokenizer.requireToken();
204 parseConstructor(tokenizer, cl, token);
206 token = tokenizer.requireToken();
207 parseMethod(tokenizer, cl, token);
209 token = tokenizer.requireToken();
210 parseField(tokenizer, cl, token, false);
212 token = tokenizer.requireToken();
213 parseField(tokenizer, cl, token, true);
215 throw new ApiParseException("expected ctor, enum_constant, field or method", tokenizer.getLine());
217 token = tokenizer.requireToken();
222 private static void parseConstructor(Tokenizer tokenizer, ClassInfo cl, String token)
233 token = tokenizer.requireToken();
236 token = tokenizer.requireToken();
242 token = tokenizer.requireToken();
244 assertIdent(tokenizer, token);
246 token = tokenizer.requireToken();
248 throw new ApiParseException("expected (", tokenizer.getLine());
251 // pub ? "public" : "protected", tokenizer.pos(), cl);
258 new ArrayList<ClassInfo>()/*thrownExceptions*/, tokenizer.pos(),
261 token = tokenizer.requireToken();
262 parseParameterList(tokenizer, method, token);
263 token = tokenizer.requireToken();
265 token = parseThrows(tokenizer, method);
268 throw new ApiParseException("expected ; found " + token, tokenizer.getLine());
273 private static void parseMethod(Tokenizer tokenizer, ClassInfo cl, String token)
290 token = tokenizer.requireToken();
293 token = tokenizer.requireToken();
299 token = tokenizer.requireToken();
303 token = tokenizer.requireToken();
307 token = tokenizer.requireToken();
311 token = tokenizer.requireToken();
315 token = tokenizer.requireToken();
317 assertIdent(tokenizer, token);
319 token = tokenizer.requireToken();
320 assertIdent(tokenizer, token);
327 new ArrayList<ClassInfo>()/*thrownExceptions*/, tokenizer.pos(),
330 token = tokenizer.requireToken();
332 throw new ApiParseException("expected (", tokenizer.getLine());
334 token = tokenizer.requireToken();
335 parseParameterList(tokenizer, method, token);
336 token = tokenizer.requireToken();
338 token = parseThrows(tokenizer, method);
341 throw new ApiParseException("expected ; found " + token, tokenizer.getLine());
346 private static void parseField(Tokenizer tokenizer, ClassInfo cl, String token, boolean isEnum)
364 token = tokenizer.requireToken();
367 token = tokenizer.requireToken();
373 token = tokenizer.requireToken();
377 token = tokenizer.requireToken();
381 token = tokenizer.requireToken();
385 token = tokenizer.requireToken();
389 token = tokenizer.requireToken();
391 assertIdent(tokenizer, token);
393 token = tokenizer.requireToken();
394 assertIdent(tokenizer, token);
396 token = tokenizer.requireToken();
398 token = tokenizer.requireToken(false);
400 token = tokenizer.requireToken();
403 throw new ApiParseException("expected ; found " + token, tokenizer.getLine());
408 ex.line = tokenizer.getLine();
412 trans, vol, false, Converter.obtainTypeFromString(type), "", v, tokenizer.pos(),
471 private static void parseParameterList(Tokenizer tokenizer, AbstractMethodInfo method,
480 token = tokenizer.requireToken();
483 token = tokenizer.requireToken();
486 token = tokenizer.requireToken();
489 throw new ApiParseException("expected , found " + token, tokenizer.getLine());
494 tokenizer.pos()));
501 private static String parseThrows(Tokenizer tokenizer, AbstractMethodInfo method)
503 String token = tokenizer.requireToken();
510 throw new ApiParseException("Expected exception, got ','", tokenizer.getLine());
515 throw new ApiParseException("Expected ',' or ';' got " + token, tokenizer.getLine());
520 token = tokenizer.requireToken();
533 public static void assertIdent(Tokenizer tokenizer, String token) throws ApiParseException {
535 throw new ApiParseException("Expected identifier: " + token, tokenizer.getLine());