mirror of
https://github.com/huggingface/transformers.git
synced 2025-07-06 22:30:09 +06:00

* [i18n-HI] Translated TFLite page to Hindi * [i18n-HI] Translated TFLite page to Hindi * Update docs/source/hi/tflite.md Co-authored-by: K.B.Dharun Krishna <kbdharunkrishna@gmail.com> --------- Co-authored-by: K.B.Dharun Krishna <kbdharunkrishna@gmail.com>
56 lines
4.8 KiB
Markdown
56 lines
4.8 KiB
Markdown
<!--Copyright 2023 The HuggingFace Team. All rights reserved.
|
|
|
|
Licensed under the Apache License, Version 2.0 (the "License"); you may not use this file except in compliance with
|
|
the License. You may obtain a copy of the License at
|
|
|
|
http://www.apache.org/licenses/LICENSE-2.0
|
|
|
|
Unless required by applicable law or agreed to in writing, software distributed under the License is distributed on
|
|
an "AS IS" BASIS, WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. See the License for the
|
|
specific language governing permissions and limitations under the License.
|
|
|
|
тЪая╕П Note that this file is in Markdown but contain specific syntax for our doc-builder (similar to MDX) that may not be
|
|
rendered properly in your Markdown viewer.
|
|
|
|
-->
|
|
|
|
# TFLite рдореЗрдВ рдирд┐рд░реНрдпрд╛рдд рдХрд░реЗрдВ
|
|
|
|
[TensorFlow Lite](https://www.tensorflow.org/lite/guide) рдПрдХ рд╣рд▓реНрдХрд╛ рдврд╛рдВрдЪрд╛ рд╣реИ рдЬреЛ рдорд╢реАрди рд▓рд░реНрдирд┐рдВрдЧ рдореЙрдбрд▓ рдХреЛ рд╕рдВрд╕рд╛рдзрди-рд╕реАрдорд┐рдд рдЙрдкрдХрд░рдгреЛрдВ, рдЬреИрд╕реЗ рдореЛрдмрд╛рдЗрд▓ рдлреЛрди, рдПрдореНрдмреЗрдбреЗрдб рд╕рд┐рд╕реНрдЯрдо рдФрд░ рдЗрдВрдЯрд░рдиреЗрдЯ рдСрдл рдерд┐рдВрдЧреНрд╕ (IoT) рдЙрдкрдХрд░рдгреЛрдВ рдкрд░ рддреИрдирд╛рдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП рд╣реИред TFLite рдХреЛ рдЗрди рдЙрдкрдХрд░рдгреЛрдВ рдкрд░ рд╕реАрдорд┐рдд рдЧрдгрдирд╛рддреНрдордХ рд╢рдХреНрддрд┐, рдореЗрдореЛрд░реА рдФрд░ рдКрд░реНрдЬрд╛ рдЦрдкрдд рдХреЗ рд╕рд╛рде рдореЙрдбрд▓ рдХреЛ рдХреБрд╢рд▓рддрд╛ рд╕реЗ рдСрдкреНрдЯрд┐рдорд╛рдЗрдЬрд╝ рдФрд░ рдЪрд▓рд╛рдиреЗ рдХреЗ рд▓рд┐рдП рдбрд┐рдЬрд╝рд╛рдЗрди рдХрд┐рдпрд╛ рдЧрдпрд╛ рд╣реИред рдПрдХ TensorFlow Lite рдореЙрдбрд▓ рдХреЛ рдПрдХ рд╡рд┐рд╢реЗрд╖ рдХреБрд╢рд▓ рдкреЛрд░реНрдЯреЗрдмрд▓ рдкреНрд░рд╛рд░реВрдк рдореЗрдВ рджрд░реНрд╢рд╛рдпрд╛ рдЬрд╛рддрд╛ рд╣реИ рдЬрд┐рд╕реЗ `.tflite` рдлрд╝рд╛рдЗрд▓ рдПрдХреНрд╕рдЯреЗрдВрд╢рди рджреНрд╡рд╛рд░рд╛ рдкрд╣рдЪрд╛рдирд╛ рдЬрд╛рддрд╛ рд╣реИред
|
|
|
|
ЁЯдЧ Optimum рдореЗрдВ `exporters.tflite` рдореЙрдбреНрдпреВрд▓ рдХреЗ рдорд╛рдзреНрдпрдо рд╕реЗ ЁЯдЧ Transformers рдореЙрдбрд▓ рдХреЛ TFLite рдореЗрдВ рдирд┐рд░реНрдпрд╛рдд рдХрд░рдиреЗ рдХреА рдХрд╛рд░реНрдпрдХреНрд╖рдорддрд╛ рд╣реИред рд╕рдорд░реНрдерд┐рдд рдореЙрдбрд▓ рдЖрд░реНрдХрд┐рдЯреЗрдХреНрдЪрд░ рдХреА рд╕реВрдЪреА рдХреЗ рд▓рд┐рдП, рдХреГрдкрдпрд╛ [ЁЯдЧ Optimum рджрд╕реНрддрд╛рд╡реЗрдЬрд╝](https://huggingface.co/docs/optimum/exporters/tflite/overview) рджреЗрдЦреЗрдВред
|
|
|
|
TFLite рдореЗрдВ рдПрдХ рдореЙрдбрд▓ рдирд┐рд░реНрдпрд╛рдд рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП, рдЖрд╡рд╢реНрдпрдХ рдирд┐рд░реНрднрд░рддрд╛рдПрдБ рд╕реНрдерд╛рдкрд┐рдд рдХрд░реЗрдВ:
|
|
|
|
```bash
|
|
pip install optimum[exporters-tf]
|
|
```
|
|
|
|
рд╕рднреА рдЙрдкрд▓рдмреНрдз рддрд░реНрдХреЛрдВ рдХреА рдЬрд╛рдВрдЪ рдХрд░рдиреЗ рдХреЗ рд▓рд┐рдП, [ЁЯдЧ Optimum рджрд╕реНрддрд╛рд╡реЗрдЬрд╝](https://huggingface.co/docs/optimum/main/en/exporters/tflite/usage_guides/export_a_model) рджреЗрдЦреЗрдВ,
|
|
рдпрд╛ рдХрдорд╛рдВрдб рд▓рд╛рдЗрди рдореЗрдВ рдорджрдж рджреЗрдЦреЗрдВ:
|
|
|
|
```bash
|
|
optimum-cli export tflite --help
|
|
```
|
|
|
|
рдпрджрд┐ рдЖрдк ЁЯдЧ Hub рд╕реЗ рдПрдХ рдореЙрдбрд▓ рдХрд╛ рдЪреЗрдХрдкреЙрдЗрдВрдЯ рдирд┐рд░реНрдпрд╛рдд рдХрд░рдирд╛ рдЪрд╛рд╣рддреЗ рд╣реИрдВ, рдЙрджрд╛рд╣рд░рдг рдХреЗ рд▓рд┐рдП, `google-bert/bert-base-uncased`, рдирд┐рдореНрдирд▓рд┐рдЦрд┐рдд рдХрдорд╛рдВрдб рдЪрд▓рд╛рдПрдБ:
|
|
|
|
```bash
|
|
optimum-cli export tflite --model google-bert/bert-base-uncased --sequence_length 128 bert_tflite/
|
|
```
|
|
|
|
рдЖрдкрдХреЛ рдкреНрд░рдЧрддрд┐ рдХреЛ рджрд░реНрд╢рд╛рддреЗ рд╣реБрдП рд▓реЙрдЧ рджрд┐рдЦрд╛рдИ рджреЗрдВрдЧреЗ рдФрд░ рдпрд╣ рджрд┐рдЦрд╛рдПрдВрдЧреЗ рдХрд┐ рдкрд░рд┐рдгрд╛рдорд╕реНрд╡рд░реВрдк `model.tflite` рдХрд╣рд╛рдБ рд╕рд╣реЗрдЬрд╛ рдЧрдпрд╛ рд╣реИ, рдЬреИрд╕реЗ:
|
|
|
|
```bash
|
|
Validating TFLite model...
|
|
-[тЬУ] TFLite model output names match reference model (logits)
|
|
- Validating TFLite Model output "logits":
|
|
-[тЬУ] (1, 128, 30522) matches (1, 128, 30522)
|
|
-[x] values not close enough, max diff: 5.817413330078125e-05 (atol: 1e-05)
|
|
The TensorFlow Lite export succeeded with the warning: The maximum absolute difference between the output of the reference model and the TFLite exported model is not within the set tolerance 1e-05:
|
|
- logits: max diff = 5.817413330078125e-05.
|
|
The exported model was saved at: bert_tflite
|
|
```
|
|
|
|
рдЙрдкрд░реЛрдХреНрдд рдЙрджрд╛рд╣рд░рдг ЁЯдЧ Hub рд╕реЗ рдПрдХ рдЪреЗрдХрдкреЙрдЗрдВрдЯ рдирд┐рд░реНрдпрд╛рдд рдХрд░рдиреЗ рдХреЛ рджрд░реНрд╢рд╛рддрд╛ рд╣реИред рдЬрдм рдПрдХ рд╕реНрдерд╛рдиреАрдп рдореЙрдбрд▓ рдирд┐рд░реНрдпрд╛рдд рдХрд░рддреЗ рд╣реИрдВ, рддреЛ рдкрд╣рд▓реЗ рд╕реБрдирд┐рд╢реНрдЪрд┐рдд рдХрд░реЗрдВ рдХрд┐ рдЖрдкрдиреЗ рдореЙрдбрд▓ рдХреЗ рд╡рдЬрд╝рди рдФрд░ рдЯреЛрдХрдирд╛рдЗрдЬрд╝рд░ рдлрд╝рд╛рдЗрд▓реЛрдВ рдХреЛ рдПрдХ рд╣реА рдирд┐рд░реНрджреЗрд╢рд┐рдХрд╛ (`local_path`) рдореЗрдВ рд╕рд╣реЗрдЬрд╛ рд╣реИред CLI рдХрд╛ рдЙрдкрдпреЛрдЧ рдХрд░рддреЗ рд╕рдордп, рдЪреЗрдХрдкреЙрдЗрдВрдЯ рдирд╛рдо рдХреЗ рдмрдЬрд╛рдп `model` рддрд░реНрдХ рдореЗрдВ `local_path` рдкрд╛рд╕ рдХрд░реЗрдВред
|