New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

Sign up for GitHub

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Jump to bottom

传入更多参数：进行大模型微调(LoRA)任务，我在输入输出对(input,label)外还想要传入一个额外的参数p,用于在LoRA的Linear层中，在forward时进行一些特殊的任务，我应如何做？ #14

Open

AkaliKong opened this issue Apr 1, 2024 · 0 comments

AkaliKong commented Apr 1, 2024

如题，我如何传入更多的参数给Linear层的forward函数？

AkaliKong changed the title 如果我使用pytorch lightning，进行大模型微调(LoRA)任务，我在输入输出对(input,label)外还想要传入一个额外的参数p,用于在LoRA的Linear层中，在forward时进行一些特殊的任务，我应如何做？进行大模型微调(LoRA)任务，我在输入输出对(input,label)外还想要传入一个额外的参数p,用于在LoRA的Linear层中，在forward时进行一些特殊的任务，我应如何做？

AkaliKong changed the title 进行大模型微调(LoRA)任务，我在输入输出对(input,label)外还想要传入一个额外的参数p,用于在LoRA的Linear层中，在forward时进行一些特殊的任务，我应如何做？传入更多参数：进行大模型微调(LoRA)任务，我在输入输出对(input,label)外还想要传入一个额外的参数p,用于在LoRA的Linear层中，在forward时进行一些特殊的任务，我应如何做？

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment