Pour l'affichage, il faut le mettre avant l'affichage du bouton register, donc:
$captcha = JCaptcha::getInstance('recaptcha', array('namespace' => 'anything'));
echo $captcha->display('recaptcha', 'recaptcha');
echo $this->cartClass->displayButton(JText::_('HIKA_REGISTER'),'register',$this->params,'','if(hikashopCheckChangeForm(\'register\',\''.$this->form_name.'\') && hikashopCheckChangeForm(\'user\',\''.$this->form_name.'\') && hikashopCheckChangeForm(\'address\',\''.$this->form_name.'\')'.$additional_check.'){ var button = document.getElementById(\'login_view_action\'); if(button) button.value=\'register\'; document.'.$this->form_name.'.submit();} return false;');
pour la vérification, l'idéal, c'est de la mettre dans un plugin user dans le onUserBeforeSave event. Sinon, en pas joli, c'est au début de la fonction _doRegister de components/com_hikashop/controllers/checkout.php que cela peut se rajouter.