Com muita dificuldade encontrei a solução.
Crie um novo projeto do delphi;
Ao form adicione um panel e um botão;
No clique do botão coloque o seguinte código:
WinExec('calc.exe',SW_NORMAL);
Windows.SetParent( FindWindow( nil, 'calculadora' ),panel1.handle ) ;
Basta compliar que ao clicar no botão a calculadora será aberta dentro do panel e não poderá sair de dentro dele.